1985年，区人武部制订《泰山区民兵发展规划》。是年，泰山区辖区内共建企业民兵组织26个。之后，每年度进行一次民兵组织整顿。1989年1月，泰山区设民兵训练基地。1990年3月，建泰山区民兵应急分队，编8个大队，800人，担负泰安军分区暨泰安市民兵应急机动值班分队任务。民兵应急分队组建后，区人武部投资5万元，装备头盔、盾牌、警棍等防暴器材。5月，泰山区民兵训练基地驻训楼建成（与区人武部办公楼一体），达到路、水、电、电话“四通”和电化教学、安全设施、技术装备、生活设施“四配套”标准。1992年2月，该基地被济南军区司令部评为民兵预备役训练基地建设达标单位。1996年4月，区人武部收归军队建制后，民兵训练基地仍为地方副科级机构。是年，民兵应急分队调整为2个应急大队。处乡和驻泰山区企事业单位，建立民兵应急小队14个。是年，南关村民兵连长田振荣被山东省人民政府、山东省军区授予优秀民兵连长称号。1998年4月，泰安军分区在泰山区进行民兵工作调整改革试点，由泰山区13个与驻军专业对口单位，建立11支对口专业分队。7月，应急分队调整为两个连（特种连、步兵连）。8月，应急分队进行封闭式军事训练。之后，每年在民兵组织整顿时，组织民兵应急分队进行战术背景的综合演练。
2000年底，泰山区共编设268个民兵连。其中42个基干民兵连，下设126个排、378个班。