1938年(民国二十七年春)，日军侵入峄县。1939年9月，八路军一一五师部队进驻峄县地区，开辟鲁南抗日根据地，组织发动人民群众进行抗日斗争。中共峄县县委和抗日民主政府相继建立，下设军事部，具体领导民兵的抗日活动。不久，在根据地农村建立起以村党支部为核心的抗日先锋队。1940年(民国二十九年)初，峄县地区的周营区等根据地相继建立起基干民兵队。1941年，日军推行所谓“强化治安”运动，对抗日根据地进行扫荡。各根据地民兵武装针锋相对地进行反扫荡斗争。
1942年，中共山东分局、山东军区颁发了《人民武装抗日自卫团暂行条例》，规定了发展与整顿人民武装。根据上级指示，峄县地区对人民武装进行整顿，加强了民兵干部队伍建设，在民兵中发展党员，清除坏分子，纯洁了民兵队伍。随着“减租减息、增资、反霸”斗争的开展，参加民兵组织，保卫胜利果实，成为广大群众的自觉行动。“参加民兵光荣”的思想深入人心，“父送子”、“妻送夫”参加民兵基干队和自卫团的先进事迹不断出现。到年底，峄县地区组织起民兵6000多人，分布在564个乡村。1943年冬，对民兵进行了军事训练和政治整训，提高了民兵的政治素质和技术战术水平，成了主力部队的重要辅助力量。为了加强对民兵的组织领导，峄县成立了人民武装委员会。1944年，又建立健全了民兵联防，组织起民兵联防队150多个，分布在400多个村庄。这些联防队经常配合主力部队打击日军。
1945年8月15日，日军投降以后，山东省人民政府颁布了《山东省民兵工作条例》。峄县地区选拔4000多名民兵组成子弟兵团和服务队，跟随主力部队作战，担负送信、抬担架、押俘虏等战勤任务。年底，民兵发展到11200多人。
1946年10月，国民党军队大举进攻峄县地区，民兵组织遭到破坏。为保存实力，部分民兵随正规部队北撤，部分民兵就地坚持游击斗争。1947年1月，各地民兵组织配合八路军、野战部队取得了鲁南战役的胜利。1948年11月，峄县地区全境解放，民兵发展到20960人。这时的民兵工作中心转移到开展土地改革、反奸、反特和恢复生产上，并协助部队维护社会治安。到1949年10月建国，峄县地区民兵发展到31890人。
建国以后，民兵组织形式有了新的变化，实行县编民兵大队，区编民兵中队，乡编民兵小队。1950年，峄县民兵达58900人。1951年，民兵分为普通民兵和基干民兵，是年底，民兵发展到95780人，其中基干民兵25550人。开始制定了会议、汇报、出入转队、训练、武器发放与保管等各项规章制度。1958年，根据毛泽东主席“大办民兵师”的号召，峄县地区组建民兵师25个，民兵团33个，拥有民兵462000人。1960年5月，有11名民兵代表出席了全国民兵代表会。
1962年，根据中共中央、国务院《民兵工作条例》，峄城区将身体健康的16至45岁的男性公民和16至35岁的女性公民编入民兵组织，其中16至30岁的男性青年和16至25岁的女性青年编入基干民兵。本着有利于生产、生活，方便领导、便于平时活动，战时快速动员的原则，全区组建民兵师1个，下辖民兵团14个，民兵营31个，民兵连358个，民兵排426个，基干民兵连213个，基干民兵排3591个。
1965年7月，中国人民解放军总参谋部、总政治部提出民兵工作要做到组织、政治、军事“三落实”，峄城区对民兵组织进行整顿，组建起民兵师1个，下辖民兵团15个、民兵营30个、民兵连405个、民兵排1226个。
1967年，“文化大革命”时期，全区民兵组织有40％停止活动。1970年至1971年，根据山东军区关于组建民兵独立团的指示，峄城区组建民兵独立营1个，民兵独立连15个。
1978年，中共十一届三中全会以后，峄城区按照国家新颁布的《民兵工作条例》规定，将原有民兵整编为1个民兵师、15个民兵团、35个民兵营、454个民兵连、1213个民兵排。
1981年，中共中央下发了(1981)11号文件，按照文件精神，全区民兵组织又进行了全面调整和改革。民兵的年龄规定为18至35岁。基干民兵的年龄男性为18至28岁，女性为18至23岁。女基干民兵人数为基干民兵总数的10-15％。普通民兵为29至35岁，不编女性。机关、事业单位不设民兵组织。
1984年，根据山东省军区关于民兵组织整顿的指示精神，全区民兵组织再次进行整顿。全区建武装基干民兵营18个，基干民兵连21个，基干民兵排103个，基干民兵班483个。1990年有民兵组织491个，人数28886人。