从1942年开始，新市、孙耿、垛石桥等区的部分村庄，由党组织和县区抗日政权
发动群众，建立了民兵组织。有的民兵组织开始曾称“看坡自卫团”或“青苗会”，
后经整顿改称“青年班”或“小队部”。参加者多是思想进步、身强力壮的青年男子
。1944年1月，济阳县人民武装委员会(简称武委会)建立，负责全县民兵的领导工作
。1945年夏季，县“武委会”改称县人民武装部。1945年9月全县解放以后，800多个
村庄先后都建立了“青年班”或“小队部”，共有基干民兵15000人。此后民兵在组
织上按行政村编制,每村为一小队，各村的小队人数几十人、百余人不等。各小队选
出小队长及指导员各1人，为领导干部。小队下设有排(大村)、班组织。在抗日战争
和解放战争时期，曾以数村的民兵小队合编为一个联防大队，由联防大队长与联防指
导员带领，联合防匪防特。至1948年初，全县民兵发展到4.7万人左右。
1948年4月前后，由于形势变化，民兵联防组织撤销。1948年秋，全县各区建乡
，每乡设乡民兵队长1人，负责全乡民兵工作。全县凡政治可靠、身无残疾的16～45
岁的男青壮年及18～28岁的女青年，除在校学生外，均编入民兵组织。1953年1月19
日，第一次全县民兵代表大会召开，成立了有4124名民兵参加的民兵基干团。1958年
，全县大办民兵师，县、区各机关及工厂、商店等企事业单位都建立了民兵组织。全
县民兵为一个师，每乡(公社)为一个团，生产大队为一个营，营下设连、排、班。基
干民兵在适应生产和训练的情况下，单独编组连、排、班。各党政企事业单位的民兵
也按营、连、排、班编制。
1962年以后，各村(大队)民兵组织定为民兵连，设正、副连长各1人，由生产大
队支部书记兼任指导员。各大队民兵一般分为武装基干民兵、基干民兵、普通民兵三
类。各党政企事业单位的民兵仍按营、连、排、班编制。
1981年，对民兵组织进行了调整。调整后，男民兵的年龄由16～45岁改为18～3
5岁；女民兵年龄未变。但女民兵人数须控制在全部女青年的百分之十以内。民兵分
类改为基干民兵与普通民兵两类。