在财政极端困难和条件十分简陋的情况下，在全省开展了前所未有的普及教育活动，千方百计在全省各地区建立各类学校、图书馆，普及文化知识，提高河南人民的文化素质。一时间，各类学校雨后春笋般出现在全省城乡各地，在全省引起了很大的反响。有些老人至今记忆犹新，纪念和回忆文章也长时间地出现在各类书籍、杂志和报纸上，用各种形式诠释“十年树木，百年树人”和“前人栽树，后人乘凉”的道理。

1．开办平民学校

1927年7月，冯玉祥在郑州平民公园里兴建一所平民学校，并于9月正式开学。平民公园附近人口稠密，居民多是生活贫苦的工人和商贩，很多儿童难以就学。在平民学校就学的儿童，一律不收学费，解决了这些儿童受教育的困难。

平民学校约占平民公园面积的四分之一，是一个单独院落，校门面北。最前面7间排房，校门居中1间；靠近东边3间的内侧有1间厨房；南边是贴近围墙的东西屋各两间，与北边的房屋和南边的围墙合抱，形成一个校园。

最初，学校开设初小一、二年级，有男女学生80名。李荣家任校长后，准备将其扩充，并更名为郑州市第一小学校。1929年2月策划完毕。此时，初小已有4个班级，又增设一班高小五年级，男女学生50名。同时，还附设一班平民夜校；学生年龄、性别不限，招收学生40名，并按文盲、半文盲，分别编为一、二年级；开设国语、算术两门课程，6个月毕业。夜校学生同样享受免交学费，仅交书籍、作业本的费用。当时，学校没有电灯，教室照明用的是煤油吊灯。

市政府对学校颇为关注。学校经费由市政府按月拨款，每月报销一次。教职工的待遇，都是按月发给银元。校长月薪50元，级任教员月薪90元，课任教员月薪25元，工友8元。教职工全部食宿在校，不准带家属。

当时，郑州市区只有三所小学，即三益街的铁路扶轮小学、南学街的县立小学、乔家门南头的一所私立小学。由于平民学校实行免收学费，而且学校位置好，所以很受平民欢迎。

1927年7月，冯玉祥训令开封各机关、团体、工厂等，均要限期举办平民学校。当时河南河务总局及沿河十个分局、三个造林场、一购石处，从1927年10月5日至1928年10月26日，先后成立了15所平民学校，共接收学生382人；每期6个月毕业；课程有平民千字课、三民主义大纲、算术、常识、习字、操练等。

实际上，这种平民学校遍布全省各地，数字无法统计。

2．创办市立初级中学校

郑州市市立初级中学校，校址在郑县城内书院街。原为郑县县立初级中学校，以郑州市、县划分于本年5月20日，由政府派员接受，校长仍是赵承志。共有教员12名。学生一年级两个班81人，二年级41人，共有学生154人。

3．开办图书馆

在开办图书馆过程中，冯玉祥首先制定了《推广河南全省图书馆计划》，并指令成立了省政府直属图书馆。郑州当时正在县改市之中，市政筹备处主管全市各项工作。一是在乾元街平民公园内成立了郑州市图书馆。该馆是一所坐北向南的四合院，南房5间，居中一间为大门，上挂“图书馆”的匾额，门内建一影背墙。院内东西厢房各3间，北房5间。四面房屋彼此对应，互相连接，而且都有走廊。房子都是青砖、青瓦建造，大青方砖铺地。院内植有成行的梧桐树，并摆放着盆景花卉。院外周围栽着成排的洋槐树，加上白杨掩映房顶，环境非常幽静。尤其是在夏季，置身于这郁郁葱葱的环境里，感到异常凉爽清新，心旷神怡。当时，冯玉祥拨款3000元，购置图书，并没收同善社房屋，改建成图书馆。内分图书室、阅报室及儿童阅览室三个部分。拥有新旧图书11000多卷，4900多册。当时，每日上午8时至下午6时开放，来此阅览的人络绎不绝，成为人们普遍喜欢的去处。但是，1929年至1930年间，先后被何成浚、唐生智的司令部占用，图书馆也就名存实亡了。二是同时成立了三处平民图书馆：原“北伐阵亡将士纪念碑”阅书室改为第一平民图书馆、在西大街创建第二平民图书馆、在现管城区政府院内设立了第三平民图书馆。