清末，济宁境内的小学堂，设堂长1人，主持学务，领导所属教职员。高等小学设学堂，另设学监1人，负责学生管理工作。民国时期，完全小学设校长1人，主持校务，领导所属教职员。校长下设教务主任1人，负责教务，学监1人，负责训导管理学生，庶务1人，办理会计、庶务工作。各班级设级任教师，负责班级管理。初级小学只设校长。单班小学不设行政领导人，由任课教师管理学校。日伪统治时期，济宁曾一度实施“政教合一”的政策，由乡、镇长兼任中心国民学校校长或保长兼任国民学校校长。
建国后，小学废除训育制度。根据《小学暂行规程（草案）》，小学设校长、副校长，领导学校工作。校长下设教导主任1人，协助校长管理教学和行政事宜。完小另设事务员1人。各班设班主任1人，负责班级管理工作。依照行政区划，济宁市区共划分为5个学区，各学区设中心小学1所，负责本学区各小学的人事调配、经费开支和教学业务辅导。1958年，随行政区划变更，改划为3个学区，设3所中心小学。是年10月，济宁县、嘉祥县并入济宁市，农村各公社设中心小学，以城区和农村各公社为单位建立业务辅导组。“文化大革命”开始后，学校行政管理体制被废除，撤销校长和教导主任，建立“革命委员会”或“革命领导小组”，设“主任”或“组长”。
1975年，为普及初中教育，中小学进行体制改革。除郊区小学由新建的教育组管理外，城区一至六中附近的小学分别并入一至六中学，成为中学的小学部。小学部设主任或副主任，在中学党支部领导下工作。城区其他小学用“戴帽”的办法改为中学，设小学教导处，配教导主任，负责小学教学工作。1978年，一至六中的中、小学部分立。是年，经省、地、市教委批准，霍家街小学、东门大街小学、实验小学分别为省、地、市重点小学。城区划分为4个学区，设4所中心小学。1984年，城郊区划分为4个乡，设立4所中心小学。1988年11月，区教育局确定霍家街小学、和平街小学和琵琶山小学为学校内部管理体制改革的试点学校，试验期3年。至1995年，市中区共有8所中心小学。各中心小学建立党支部，实行党支部领导下的校长分工负责制，小学党支部统一领导本校和本学区各小学的工作。
附：重点小学简介
霍家街小学 建于1948年10月，原称市第一中心小学，有教学班6个，学生281人，教职员8人。1949年1月，市联合中学附属小学并入该校。至年底，学校共有教学班9个，学生358人，教职员16人。之后，学校迁至霍家街，改称霍家街小学。1963年7月被省教育厅定为省重点小学，并改名为实验小学。1978年又恢复为霍家街小学，再次被定为省重点小学。1995年有学生1800人，教职员81人，其中高级教师37人，一级教师31人，二级教师10人。
中共十一届三中全会后，办学条件逐步改善，有教学楼1幢，可容纳25个班。学校设有仪器室、实验室，配有放像机2部，电影机1部，微电脑6部，幻灯机12部，及各种实验仪器、标本和模型，可满足本校12个实验小组的需要。1992年，建成2421平方米的综合实验楼1座，设有仪器室、实验室、演播室、图书室、微机室、音乐室和美术、书法、科技活动、体操训练等专用活动室，图书室藏书2万余册，教学仪器达到国家一类配套标准。1993年，安装了多功能闭路电视系统。1995年，在济宁市率先实现“五机一幕”（投影机、录音机、录像机、电视机、摄像机、投影银幕）进课堂。
学校全面贯彻党的教育方针，充分发挥课堂教育的作用，根据学生的特点，开设故事课、游戏课、操作课、议论课等，直观形象地向学生进行思想教育。在争夺“创造杯”活动中，五年级学生设计的自动粉笔，摘取了“创造杯”。在“四有小金星”活动中，有7项、12人获省级奖励，学校被评为省先进单位。在“勤巧小队”活动中，有7项被评为全国一、二等奖。在教学改革实验中，一批青年教师逐步成为教学骨干，先后为全国、省、市、区教研会议开课30余节，被评为区以上的优质课70余节，撰写和发表论文120篇。由于教学质量的提高，学生在教学竞赛中有320名学生获区级以上奖励，103名获市级奖励，48名学生参加省竞赛均获得奖励，39名学生获得全国级奖励。学生在市级以上报刊杂志上发表的文章有20余篇获奖。在改进教学工作中涌现出了一批先进人物。1979年、1980年，教师武成华、马福环先后被评为特级教师，1981年，教师马福环荣获“全国优秀班主任”称号。1983年、1984年，教师武成华连续荣获“省优秀教师”称号。1991年，仲继云、张自修先后被评为全国优秀教师。
1987年，学校被评为省级教书育人先进单位。1988年，学校被评为省级精神文明建设先进单位，少先队被评为全国红旗大队，校办工厂被评为全国先进校办企业。1993年，学校被定为全国中小学整体改革实验基地。1994年，学校被评为省艺术教育示范学校。1995年，学校被评为省电化教育示范学校，少先队被评为全国雏鹰大队。