从20世纪80年代后期至90年代中期，全省在义务教育学校的设置和管理方面改革力度最大。
一、学校设置与布局调整
1995年5月，省政府办公厅转发省教委、省财政厅、省人事厅、省编办《关于中小学布局调整和内部管理体制改革的报告》，提出中小学设学布点既要依照国家教委规定的学生走读半径，又要充分考虑本地的地理环境和人口密度，城市中小学设学布点必须与城市扩建和小区建设同步规划。中小学布局调整不能影响学生入学率和九年义务教育的普及。中小学最低规模：高中、初中18个班（四年制24个班），农村乡镇中心小学和学区小学5个班，村办小学在1000米内尽可能合办并校，交叉办班，减少多级复式。
至1998年，随着“普九”的实施，全省除微山湖区外，基本按照上述要求设置中小学，优化配置了教育资源，促进了“普九”的进展，提高了教育教学质量。
2001年4月，省教育厅、省财政厅下发《关于报送中小学布局调整规划的通知》，要求各地根据实施九年制义务教育及学制改革的目标要求，结合经济发展和人口增长趋势，制定本地区35年的布局调整规划。原则上，5万人口以上的乡镇可以设12所初中，5万人口以下的设1所初中。在方便少年儿童入学前提下，尽量减少小学处数，小学生走读半径一般为2000米。交通条件较好的乡镇，也可集中举办12所小学。8月，全省基础教育工作会议召开，提出按照小学就近入学、初中相对集中的原则，优化教育资源配置，合理规划和调整学校布局；适当合并农村小学和教学点，学生走读半径一般不超过2000米；交通不便地区保留必要的教学点，防止因布局调整造成学生辍学；学校布局调整要与危房改造、学制规范、城镇建设等统筹考虑，调整后剩余的校舍等资产要保证用于发展教育事业。
2005年，全省共有小学15871所，在校生615.37万人，小学适龄儿童入学率99.86%，小学毕业生升学率99.28%；普通初中3591所，在校生395.91万人。
1991—2005年山东省义务教育生师比变化情况一览表
表1-4
┏━━━┯━━━━━━━━━━━━━━━━━━┯━━━━━━━━━━━━━━━━━━━┓
┃ 年份 │ 小学 │ 初中 ┃
┃ ├──────┬───────┬───┼───────┬───────┬───┨
┃ │在校生（人）│专任教师（人）│生师比│ 在校生（人） │专任教师（人）│生师比┃
┃ │ │ │ (%) │ │ │ (%) ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1991 │ 8151500 │ 414924 │19.65 │ 3247400 │ 214733 │15.12 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1992 │ 8262100 │ 416662 │19.83 │ 3335300 │ 219052 │15.23 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1993 │ 8535700 │ 415928 │20.52 │ 3442700 │ 221133 │15.57 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1994 │ 8955400 │ 414912 │21.58 │ 3709300 │ 227894 │16.28 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1995 │ 9403600 │ 422989 │22.23 │ 4078700 │ 236887 │17.22 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1996 │ 9718611 │ 429345 │22.64 │ 4443597 │ 250006 │17.77 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1997 │ 9901922 │ 434671 │22.78 │ 4665592 │ 262011 │17.81 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1998 │ 9513397 │ 435156 │21.86 │ 4882790 │ 269360 │18.13 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 1999 │ 8707249 │ 418828 │20.79 │ 5264908 │ 275678 │19.10 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 2000 │ 7748822 │ 408200 │18.98 │ 5699640 │ 286381 │19.90 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 2001 │ 6991932 │ 390374 │17.91 │ 5780665 │ 288627 │20.03 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 2002 │ 6625876 │ 383816 │17.26 │ 5422262 │ 289291 │18.74 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 2003 │ 6427848 │ 380066 │16.91 │ 4852715 │ 283182 │17.14 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 2004 │ 6278002 │ 378793 │16.57 │ 4392406 │ 276822 │15.87 ┃
┠───┼──────┼───────┼───┼───────┼───────┼───┨
┃ 2005 │ 6153703 │ 377729 │16. 29│ 3959117 │ 269057 │14.71 ┃
┗━━━┷━━━━━━┷━━━━━━━┷━━━┷━━━━━━━┷━━━━━━━┷━━━┛
二、学制改革
2000年之前，全省多数地方义务教育实行五三学制，逐步扩大五四学制实验区；2000年之后，逐步过渡到六三学制和五四学制，以六三学制为主。
1992年，省教委印发《山东省“五四”学制区域性实验管理暂行办法》，鼓励少数当时实行六三学制但有条件的乡（镇）或县（市、区）进行五四学制实验，实验目的除了与六三学制、九年一贯制进行比较研究外，还要探索四年制初中教育教学规律，在国家基本确定五四学制为基本学制后，为全省学制过渡提供经验。
1997年7月，省教委在《关于贯彻小学管理规程和课程方案的若干规定》中提出，小学学制实行五年制或六年制，以五年制为主。1998年，六年制小学分布在济南、青岛、潍坊、莱芜、德州五市，学校数和在校生数分别占全省总数的11%和13%；四年制初中分布在除聊城、菏泽之外的15个市（地），学校数和在校生数分别占全省总数的36%和34%。
2001年6月，省教育厅印发《关于实施〈基础教育课程改革纲要（试行）〉的意见》，提出要积极探索九年一贯制的义务教育课程。
8月，省政府印发《关于贯彻国发〔2001〕21号文件精神推动基础教育改革与发展的意见》，明确了义务教育学制改革的导向，提出要规范义务教育学制，实行五三学制的地区，2005年基本完成向六三学制的过渡。
2002年9月，省教育厅转发教育部《义务教育课程设置实施方案》，编制《基础教育课程改革实验区义务教育阶段课程安排表》，促使省内原有五三学制逐步向六三学制或五四学制转变。
2003年，全省六年制小学基本稳定，五年制小学班数下降幅度较大。三年制初中班数没有大幅度变化，四年制初中班数于2005年减到3363个。