清末民初，以“通俗教育”和“平民教育”為主體的社會教育經過萌生和發展階段，確立了其行政地位，并形成一些成文的規章制度，為社會教育的發展打下了基礎。南京國民政府建立之初，就意識到發展教育事業的重要性，并視其為“立國之本”，制定了有關社會教育行政、經費、法規等方面的政策文件，使得社會教育形成了一套比較完備的體系。

1、確立社會教育的行政體制。1927年國民政府定都南京后，設立中華民國大學院為全國教育行政及研究學術的最高機關。大學院設大學委員會、國立學術機關、教育行政處、專門委員會等部。社會教育分屬于教育行政處下的社會教育處及圖書館組。1928年6月，國民政府又重新修訂了大學院組織法，將其下設變更為秘書處、總務處、高等教育處、普通教育處、社會教育處和文化教育處六個部門，主要由社會教育處來領導和管理全國社會教育事宜。到1928年底，國民政府廢止了大學院制度，重新恢復教育部，下設總務司、高等教育司、普通教育司、社會教育司、蒙藏教育司和編審處。經幾次修訂，1935年正式頒布《教育部組織法》，其中規定：社會教育統歸社會教育司主管，其管理事項包括：①關于民眾教育及識字運動各事項；②關于補習教育事項；③關于低能及殘疾者之教育事項；④關于美化教育事項；⑤關于公共體育事項；⑥關于圖書館及保存文獻事項；⑦關于其他社會教育事項等七項內容。(蔣建白、呂海瀾著：《中國社會教育行政》，商務印書館1937年版，第59頁)1935年2月，在教育部規定的各司分科規程中，規定社會教育司下設置第一科和第二科，行政職責的分工更為詳實。至此，中央社會教育行政機構的組成大略完成，在組織與建制方面比以前更加健全和完備，社會教育的行政職能分工也更為具體和明確。

對于全國省一級的社會教育行政機構，在大學院時期，國民政府把全國劃分為若干大學區，1928年修正的《大學區組織條例》中規定：“大學區得設高等教育處、普通教育處、擴充教育處”，社會教育的事宜歸擴充教育處辦理。1929年，經國民黨三屆二中全會議決，停止大學區制恢復教育廳制，各省在教育廳下分設四科，社會教育歸第三科管理。1931年，教育部訓令各省市教育廳，一律設置掌管社會教育的專科，各縣教育局斟酌經費情形，于該局內設置專科，或指定專員，掌管社會教育事務。另外，國民政府還召開民眾教育專家會議，對社會教育加以完善。1933年在民眾教育專家會議上，明確規定民眾教育館是社會教育的中心機關，實施綜合的社會教育事業，民眾學校、職業補習學校、民眾教育館，為各地方最低限度的社會教育設施，這種以簡代繁的政策，很適合各地方社會教育行政之用。