抗日战争爆发以后，共产党领导的抗日武装于民国27年（1938年）在腰站、沙庄和张士府一带开辟抗日根据地，发动群众组织起来护坡、防盗、护村、防匪，帮助抗日部队秘密传送信件、情报，称为防盗队、防匪队、自卫队等。武器简陋，多是大刀片、红樱枪、抬枪、土枪等。民国32年（1943年），随着抗日形势的发展，平原县正式建立民兵组织，实行各村自卫，村村联防，全县40 %的村庄建立了民兵联防队，配合抗日部队公开与日伪军开展斗争。抗日战争胜利以后，县人民政府建立武委会，区设区委会，配专职干部做民兵工作，民兵组织普及全县各个村庄，各村设有民兵队部，配备了民兵队长。民兵为参军支前、保卫新政权、巩固土改成果做出了重要贡献。
建国后，民兵队伍进一步壮大，全县104个乡陆续建立了新的民兵组织，青壮年劳力编为民兵基干团。据1953年4月16日统计，全县共有民兵25798人，其中基干团10638人。全县民兵共分为78个连、266个排、920个班。民兵队伍中有党员308人，团员1525人。根据《中华人民共和国民兵组织暂行条例》的规定，在乡人民政府的统一领导下，担负着消灭空降特务、维持地方治安、保护生产的重任。
1955年，为保证义务兵役制的顺利实施和充足的兵源，民兵队伍改编为基干民兵和一般民兵。全县共组建104个民兵中队，民兵总数为27384人。其中基干民兵11887人，一般民兵15243人，中队以上干部254人。民兵队伍中配备了“六五”式步枪和“七九”式步枪。
1956年，以农业社为基础，以生产队为单位进行民兵组织整顿，建立乡队和中队，下分连、排、班，农业社建立治安委员会管理民兵工作。全县共建民兵乡队107个、中队274个，民兵总数为43313人。基中基干民兵15850人，一般民兵26567人，中队以上干部896人。在组织整顿、发展的同时，对民兵所持武器进行了检修补充，基干民兵队伍都配备了“六五”式步枪和“七九”式步枪。对稳定社会秩序起到了一定的作用。
1957年到公社化以前，民兵组织以合作社为基础，乡编为中队，合作社编为分队，下设小队。1958年8月，全县有925个中队、1318个分队、4438个小队，民兵总数为50817人。其中基干民兵22382人，一般民兵28435人。共有分队以上干部2946人。
1958年，毛主席提出“大办民兵师”，实现“全民皆兵”、“劳武结合”，年龄和政治条件适当放宽，公社“社员即是民兵，生产组织即是民兵组织。公社为团，生产大队为营，生产队为连”。全县编为一个民兵师，下设23个团、97个营、545个连。年龄17岁至35年（复退军人40岁）的男性公民、17岁至25岁的女性公民一律编为基干民兵。男女分别编班，每班12人，按四四建制。又在基干民兵中按新兵入伍的政治条件和身体条件组织预备兵团（又称野战兵团），随时准备响应祖国召唤，参军参战。其余有劳动能力的全部编为普通民兵。公社设立武装部，配专职干部负责民兵工作。全县民兵总数为290509人，占全县总人口的83%。其中基干民兵94395人，普通民兵189171人，排以上干部6943人。
1961年12月11日，国家颁发《民兵工作条例》，明确提出了民兵的三项基本任务：（一）积极参加社会主义建设，在生产中起带头作用。（二）配合军队巩固海陆边防，防空防特，维护社会秩序。（三）随时准备参军参战，打击侵略者。从此，民兵工作走向正规化。根据当时国际国内形势的需要，在基干民兵中组织了武装基干民兵，直接掌握武器，学习专业军事技术，以备战争需要。经过整组后的平原民兵师，下设39个营、961个连、2979个排、9054个班，民兵总数为78582人，占总人口的22.6 %。其中基干民兵38113人。民兵中增加配备了轻、重机枪和高射炮、野战炮。在武装基干民兵中又组建了1个通讯连、一个卫生连、一个铁道兵连和一个侦察连。
1962年6月19日，毛主席提出“民兵工作要做到组织落实、政治落实、军事落实”。从此，民兵工作围绕“三落实”，在政治上狠抓阶级斗争，进行反修防修教育；组织上年年搞整组，做好出队、入队、转队工作；军事训练每年不少于100小时。全县民兵总数一直保持在10万人左右，在生产斗争、阶级斗争和科学实验中充分发挥了骨干带头作用。到1979年底，全县民兵总数为113144人，占全县总人口的28.6 %。其中基干民兵61462人，普通民兵45158人，排以上干部6524人。分为22个团、891个连、2316个排、8414个班。其中武装基干团1个，独立连29个，独立排287个，独立班357个。共有武装基干民兵9997人。配备武器的单位475个，共配备各式武器3830件。建立的专业连队有：“八二”迫击炮连1个，重机枪连3个，高射机枪连2个，通讯连1个，侦察连1个，“六〇”迫击炮连4个，反坦克火器排4个，打坦克爆破班17个。
1979年之后，随着农村生产形式的变化，民兵组织随之改变。以生产专业组为基础，采取混编和清编相结合的办法，使民兵组织适应了生产的发展。1981年3月9日，中央批转总参谋部、总政治部《关于调整民兵组织问题的报告》，全县按照缩小范围、压缩年龄、简化组织层次的精神进行调整，把民兵和预备役结合起来，重点抓好基干民兵。为减轻群众负担，让百姓休养生息，规定每年训练时间不要超过15天。经过调整，取消县编民兵师、公社编团的建制，改建民兵营。全县建立20个营，873个连，1716个排。其中基干民兵排249个，普通民兵排1467个，配发武器的单位299个，专业连队保留了高射机枪连2个，重机枪连3个，通讯连1个，侦察连1个，“八二”迫击炮连3个。全县共有民兵40613人，占全县总人口的10.2%。其中基干民兵9690人。民兵总数比调整前减少了7.2万人。1982年，将民兵连队中配发的武器全部集中到公社民兵营部，设专人看管。1983年，建立预备役炮兵团之后，民兵与预备役逐渐合二为一。到1985年，全县民兵总数缩减为38951人。其中基干民兵8020人。
平原县建国后重点年份民兵组织统计表
单位：个，人
（续表）
