國立安徽大學最初於1928年創立於安徽省原省會安慶,當時稱省立安徽大學。抗日戰爭中,安慶淪陷,原“省立安徽大學”被迫停辦。
抗日戰爭勝利後,中華民國國民政府決定由“省立安徽大學”的元老朱光潛、楊亮功、程演生、陶因等人在原“省立安徽大學”位於安慶的舊校址上重建,並改稱“國立安徽大學”,由中華民國教育部直屬管理。時有“於京滬(指當時的南京上海)一帶,僅次於上海同濟大學”之譽。
1949年12月,國立安徽大學從安慶遷往蕪湖,與省立安徽學院合併組建成解放後安徽省唯一的學科門類齊全的綜合性大學——新安徽大學。1950年至1953年,全國高等學校院系調整,安徽大學歷經了三次院系調整,調整後的安徽大學僅由兩個學院組成:師範學院和農學院。
1954年2月,中央決定:“撤銷安徽大學校名和建制,其所屬師範學院、農學院分別獨立為安徽師範學院、安徽農學院”。同年4月,安徽省政府決定安徽農學院遷往合肥辦學,安徽師範學院和安徽農學院經過多年發展,成為現在的安徽師範大學(蕪湖)和安徽農業大學(合肥)。