黨的十一屆三中全會後，經過撥亂反正，國家基本教育制度逐步得以恢復，教育體制的改革隨之提上日程。1980年5月，中央書記處提出：“中等教育結構非改不可。高等教育結構也有改革的問題。教育制度的改革，要跟勞動制度、幹部制度的改革緊密結合起來。”12月，中共中央、國務院在《關於普及國小教育若干問題的決定》中提出，普及國小教育“必須堅持‘兩條腿走路’的方針，以國家辦學為主體，調動社隊集體和廠礦企業等各方面辦學的積極性”。1983年4月28日，國務院批轉了教育部、國家計委《關於加速發展高等教育的報告》。5月6日，中共中央、國務院發出《關於加強和改革農村學校教育若干問題的通知》。5月9日，教育部、勞動人事部、財政部、國家計委聯合發出《關於改革城市中等教育結構、發展職業技術教育的意見》。經過初步探索，1984年10月，中共中央在黨的十二屆三中全會《關於經濟體制改革的決定》中提出要起草一個關於教育體制改革的檔案。經過反覆討論，1985年5月27日，中央頒布了《關於教育體制改革的決定》。《決定》明確分析了教育體制存在的許多弊端，提出教育體制改革要遵循“教育必須為社會主義建設服務，社會主義建設必須依靠教育”的指導思想；教育體制改革的目的，“是提高民族素質，多出人才、出好人才”。為此，要從教育體制入手，有系統地對教育體制進行改革。《決定》的發布，標誌著教育體制的改革已被納入到改革開放和社會主義現代化建設的總體設計之中。1986年4月，六屆人大四次會議通過《中華人民共和國義務教育法》。在《決定》和《教育法》的指導之下，中國教育體制的改革穩步開展。在教育管理體制的改革方面，1985年成立了國家教育委員會，通過簡政放權，強化地方政府對發展教育事業的權利和責任，明確把發展基礎教育的責任交給地方。在中等教育方面，通過改革，調整中等教育結構、發展職業技術教育的目標得到了較好的實現。到1990年，全國高中階段普通教育和職業技術教育在校生的比例達到了1∶1。在高等教育方面，擴大了高等學校的辦學自主權，對高校招生和畢業分配製度進行了改革，一些院校逐步實行了校長負責制。在教育經費保障方面，做出“兩個增長”的決定，即要求“中央和地方政府的教育撥款的增長要高於財政經常性收入的增長，並使按在校學生人數平均的教育費用逐步增長”，決定地方政府可徵收教育費附加，為義務教育增加了一項資金來源。
