抗日初期，组建的“自卫团”、“农救会”、“抗日先锋队”等群众武装团体（民兵前身）的主要任务是宣传党的抗日主张，站岗放哨，夜间打更，维护地方治安，不直接参战，也没有训练任务。
1938年元月，在善堌办起“农民抗日训练班”，主要对象是“农抗会”会员及爱国学生。使受训人员学习革命理论，掌握斗争艺术，共举办5期，250余人参训。
1943年秋，山东军区人民武装代表大会召开，会议部署了民兵军事整训工作。
1944年，双山县委号召全县“青抗先”基干民兵开展军事整训，学习胶东根据地“石雷战”的经验，主要学习“石雷”制作、使用和射击、刺杀等。以村为单位组织实施，通过整训，军事技术、战术水平有了提高，为独立打击敌人和配合主力作战打下基础。
1946年以县、区为单位，层层举办各种形式的民兵训练班，主要内容是射击、投弹、埋设地雷、传授神枪手金维山的射击方法和鲁南爆破英雄栗广山的爆破技术。同年8月，麓水县办了一期250多人的民兵训练班，学习拉雷、夹子雷、梅花雷等爆炸方法。1947年国民党军队进攻时，区境内广大民兵以训练的军事战术配合主力地方武装，为粉碎敌人的重点进攻做出了贡献。
建国后，在劳武结合，以劳为主，军政并重，不脱离生产的训练方针指导下，民兵军事训练，以基层民兵干部、教练员、基干民兵为主要训练对象，以射击、投弹、队列、刺杀、地雷、爆破和战术为主要训练内容，训练时间15—25天，多在农闲季节进行。民兵干部和专业技术骨干由县人民武装部组织训练，至1953年，区境内三年来共训各类人员3200多人次。
1964年，在全国性民兵军事大比武鼓舞下，区境内民兵军事训练开展得空前广泛、活跃，全年训练基干民兵2847人，军事素质有所提高，成绩较为突出，在参加省、地市举行的军事大比武中均取得好成绩。山亭镇71岁的老民兵刘广义一家三代10人参加了济宁地区民兵军事大比武，并获得荣誉奖。
1965年，区境内民兵军事训练，以射击战术、防空、战斗勤务、爆破为基本训练内容，在教学上，推广了郭兴福教学法，训练形式以民兵连为单位至年底共训练基干民兵3416人，民兵干部856人。文化大革命期间民兵训练一度中断。
1973年至1975年，按照总参“关于民兵三年训练纲要”精神，增加了打坦克的训练内容。以公社、村为单位组织民兵训练，每年训练时间20天左右。至1975年底共训民兵7130人。
1976年8月，枣庄市举行全市民兵队列、刺杀、投弹、爆破、射击等项目的军事表演，区境内参加表演的民兵1200人。
1977年至1980年，民兵训练内容是射击、投弹、刺杀、爆破、打坦克和班以下战术及专业技术、三防（防原子、防化学、防空袭）等项目，训练主要对象是民兵连长和武装基干民兵。民兵连长由区武装部每年训练一次15天，武装基干民兵由公社（乡镇）负责，每年训练15至20天。
1981年民兵训练实行两年一周期，训练时间为30天，并注重民兵教练员和训练基地建设，两年共训民兵4645人。
1983年至1984年，进行第二周期训练。以乡（镇）厂矿人武部门组织训练，逐步改为由区（县）人武部分批集训、较好地保证了训练质量。
1983年冬，北庄乡“八二无后座力炮连”在省军区参加考核中，取得优秀成绩并受到省军区的奖励。
1984年1月山亭区在山亭镇进行军事比武，获1—3名的为北庄、山亭、西集三个乡镇代表队。同年9月，在山亭镇对全区专业技术人员点验，参加各种专业人员800多人。
1985年至1987年，根据国务院对贫困地区民兵免训的要求，山亭区民兵军事训练免训三年。
1987年底，山亭区组织157名民兵训练，内容40火箭筒、重机枪操作，有线电和无线电通讯专业。训练20天，后经枣庄军分区考核，全区优秀率占97%。