清光绪三十一年（1905年），知州王赓廷于北门大街渔山书院旧址创建第一高等小学堂，为济宁近代第一所新式小学。光绪三十二年（1906年），知州邓际昌在关帝庙街设立恤孤学堂。光绪三十三年（1907年），知州柳堂将蒙养学堂改为初等小学堂，宣统元年（1909年），并入第一高等小学堂。至宣统末年（1911年），济宁设有高等小学堂1处，初等小学堂9处。
民国时期，小学堂改称小学校。1915年，济宁有公私立小学67处，学生1681人，教职员85人。1916年，在校学生增至3465人，入学率为32.26%。1925年，有小学校97处（县立82处，私立15处），教学班122个，在校学生3343人，教职员144人。1930年，境内小学达到198处，其中县立完全小学8处，私立完全小学3处，县立初级小学93处，私立初级小学94处，在校学生共1.45万人，教职员359人。1933～1935年，为推进国民义务教育，开始举办短期小学，招收10～16周岁的失学儿童，修业年限为1年，学生不交学费，所用书籍文具由省教育厅发给。
1938年1月，济宁沦陷，城区各级各类小学全部停办。日伪政权建立后，为向青少年施行奴化教育，饬令学校复学，学校增加较快。于1943年，县内有公私立小学96处，200个班，学生9789人，占战前学生总数的67%，学龄儿童入学率不足15%。
1946年1月，济宁解放后，市人民政府重视教育事业，恢复小学26处，105个班，学生1038人，教职工162人。同年9月，国民党军占据济宁，将完全小学改为中心国民学校，初级小学改为国民学校。1948年7月，济宁重获解放，恢复小学35处。至1949年，经过整顿，学校合并为31处，154个班，学生7232人，教职工229人。
1950～1952年，全市小学在大力贯彻“学校为工农开门”的办学方针，在大量吸收工农子弟入学的基础上，对现有公办小学进行调整和扩班。其间，公办小学由1951年的23处减少至21处，教学班扩至220个，在校学生增至7236人，教职工为280人。1954年，火柴厂设立职工子弟小学，系济宁市第一所企业办小学。1958年，小学发展较快，全市有小学25处，312个班，学生1.28万人，教职工377人，学龄儿童入学率为99%。1959～1961年，国民经济出现严重困难，学龄儿童入学率有所下降。1962年，贯彻“调整、巩固、充实、提高”的方针，举办工读、民办小学，加快小学教育发展步伐，1965年，济宁市在发展各类全日制小学的同时，大力举办非全日制工读、民办小学，进一步加快了小学教育发展的步伐。是年底，市内共有全日制小学29处，466个班，学生2.21万人，教职工640人；非全日制工读、民办小学37处，49个班，学生1570人，教职工52人，学龄儿童入学率为98%。
“文化大革命”时期，小学教育陷于混乱状态。1966年，小学招收的4500名新生未能入学。此后两年未招新生。1969年，公办、企业办小学恢复招生，社办全日制小学全部转为公办，非全日制工读、民办小学全部停办。1972～1974年，为普及初中教育，先后有12处小学招收“戴帽”初中班。小学校舍、设备被中学挤占，小学教育事业的发展和提高受到严重影响。1978年2月，城区中小学体制进行调整，取消中小学二部制班162个，街道小学一年级班全部纳入公办小学。至年底，全市小学共有48处，435个班，在校学生2.05万人，教职工579人。1984～1990年，市中区学龄儿童（7～11周岁）入学率为99.6%以上，达到国家规定的普及标准。1991年，市区按照普及九年义务教育的要求不断提高小学五年义务教育水平，适龄儿童入学率、在校学生巩固率、升学率均达到100%，1994年底率先通过省政府验收，成为全国首批实现九年义务教育的县（区）之一。
部分年份小学基本情况统计表
表 21-5
┏━━━━┳━━━━━┳━━━━━┳━━━━━┳━━━━━┳━━━━━━┳━━━━━━┳━━━━━━━┓
┃ ┃学校数 ┃班数 ┃在校学生 ┃招生数 ┃毕业生数 ┃教职工数 ┃ ┃
┃年份 ┃ ┃ ┃ ┃ ┃ ┃ ┃ 备 注 ┃
┃ ┃ （个） ┃ （个） ┃ （人） ┃ （人） ┃ （人） ┃ （人） ┃ ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1949 ┃ 30 ┃ 146 ┃ 5364 ┃ 1119 ┃ 314 ┃ 225 ┃含集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1952 ┃ 21 ┃ 200 ┃ 7236 ┃ 2194 ┃ 609 ┃ 250 ┃ ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1954 ┃ 22 ┃ 261 ┃ 9720 ┃ 2024 ┃ 1011 ┃ 326 ┃含企业办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1956 ┃ 24 ┃ 275 ┃ 11212 ┃ 2421 ┃ 1204 ┃ 334 ┃含企业集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1958 ┃ 25 ┃ 312 ┃ 12853 ┃ 2781 ┃ 1713 ┃ 377 ┃含企业集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1962 ┃ 38 ┃ 340 ┃ 13901 ┃ 3242 ┃ 1369 ┃ 412 ┃含企业集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1965 ┃ 29 ┃ 466 ┃ 22180 ┃ 5556 ┃ 2540 ┃ 640 ┃含企业集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1969 ┃ 31 ┃ 557 ┃ 24267 ┃ 3451 ┃ - ┃ 807 ┃含企业集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1972 ┃ 103 ┃ 582 ┃ 27024 ┃ 4863 ┃ 4947 ┃ 1030 ┃含企业集体办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1978 ┃ 48 ┃ 435 ┃ 20511 ┃ 4394 ┃ 3681 ┃ 706 ┃含企业办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1982 ┃ 45 ┃ 493 ┃ 23112 ┃ 4356 ┃ 4583 ┃ 1070 ┃含企业办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1985 ┃ 44 ┃ 409 ┃ 19534 ┃ 3335 ┃ 4327 ┃ 1137 ┃含企业办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1988 ┃ 40 ┃ 391 ┃ 18845 ┃ 4378 ┃ 3825 ┃ 1217 ┃含企业办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1990 ┃ 40 ┃ 411 ┃ 20692 ┃ 4226 ┃ 3660 ┃ 1184 ┃含企业办 ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1991 ┃ 41 ┃ 422 ┃ 21460 ┃ 4309 ┃ 3743 ┃ 1285 ┃ ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1992 ┃ 40 ┃ 441 ┃ 23274 ┃ 5064 ┃ 3504 ┃ 1382 ┃ ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1993 ┃ 38 ┃ 460 ┃ 24320 ┃ 5310 ┃ 4785 ┃ 1408 ┃ ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1994 ┃ 38 ┃ 475 ┃ 25561 ┃ 5916 ┃ 4979 ┃ 1458 ┃ ┃
┣━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━╋━━━━━━╋━━━━━━╋━━━━━━━┫
┃1995 ┃ 37 ┃ 490 ┃ 27089 ┃ 5596 ┃ 4649 ┃ 1566 ┃ ┃
┗━━━━┻━━━━━┻━━━━━┻━━━━━┻━━━━━┻━━━━━━┻━━━━━━┻━━━━━━━┛
注：含市直小学。