1927年冬，共产党员杨耕心等在本县北部九都杨一带组织农民协会，有武装会员100多人。次年初参加了著名的“坡里暴动”，不久因反动势力的镇压而失败。
1937年7月抗战爆发后，共产党领导下的阳谷县群众武装力量不断发展壮大。1942年，县内多数村庄建立了自卫队，配合抗日部队和县、区地方武装除奸反霸，打击敌伪。1943年，又纷纷组建了“模范班”、“青抗先”和游击队，总人数发展至3000多人。1946年初，正式组建民兵组织，县设民兵大队、区设中队，各村设分队，当时全县有民兵1.8万多人。1949年底增至31492人。
1951年5月，遵照中央军委的有关指示，开始实行“普通民兵制度”，凡身体健康的16至45岁的男性公民，16至35周岁的女性公民，均编入民兵组织，接受军事、政治训练，其中16至35岁的青壮年男性，16至25周岁的女性为基干民兵，余者为普通民兵。当时的组织编制是：县设基干民兵团，各区设基干民兵营，乡设基干民兵连，村设基干民兵排、班。1957年底，全县民兵总人数68146人，其中基干民兵26371人。
1958年9月，毛泽东号召“大办民兵师”，迅速掀起“全民皆兵”运动。全县民兵发展至124975人，其中基干民兵65837人，编为1个民兵师，131个民兵团，577个民兵营，1283个民兵连。1962年6月，遵照毛泽东的有关指示，全县开始进行以“组织落实、政治落实、军事落实”为主要内容的民兵工作“三落实”活动，并配发部分枪支弹药，组建武装基干民兵。1964年底，全县民兵共124210人（男72899人：女51311人），其中基干民兵69982人，普通民兵54228人。所有民兵共编为292营。
1966年“文化大革命”开始后，民兵工作受到严重冲击。1970年以后，城乡民兵组织逐渐恢复活动。1972年，全县共有民兵164379人，其中基干民兵105148人（其中武装基干民兵3653人），普通民兵59231人。所有民兵共编为1个师，19个团，89个营，614个连，3760个排。武装基干民兵则编为1个团，19个连。1978年，依照《民兵工作条例》，对全县民兵组织进行了调整。
1981年12月，按照复员、退伍预备役制度和民兵制度相结合，平时民兵工作和战时民兵动员工作相结合的原则，对全县民兵组织进行大的调整。民兵年龄规定为18—35周岁，其中男基干民兵18—28周岁，女基干民兵18—23周岁。普通民兵中不再编入女性。通过全面调整，全县民兵总人数由原来的162268人减少为59549人，其中基干民兵由原来的81260人减为11638人。同时取消民兵师称号，重新组建基干民兵团，下设20个营。1983年，再次对民兵组织进行整顿，除张秋公社景阳岗大队保留1个女民兵班外，其余均不再编入女性。
1987年底，全县共有民兵59433人，其中基干民兵7556人，普通民兵51877人。在基干民兵中，有男性7546人，女性10人。民兵编制为1个团，22个营，839个连。基干民兵则编为3个连，277个排，983个班。
1954年10月，县兵役局设预备役军官科，开始复员、转业、退伍军人预备役登记工作。1967年后一度中止。1980年重新恢复复退军人预备役登记制度，凡符合条件的复退军人，全部恢复为一、二类预备役。1981年民兵组织调改后，18—28岁的男性基干民兵均服一类预备役，普通民兵服二类预备役。按规定服一、二类预备役的复、退军人全部编入所在地民兵组织。止于1987年底，本县服一、二类预备役的复员、退伍军人共5042人。
阳谷县民兵组织情况表
┏━━━┯━━━━━━━━━━━━━━━━━━━━━━━━┯━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━┓
┃年度 │民兵人数 │组织状况 ┃
┃ ├────┬───────────────────┼───┬──┬───┬───┬────────────────┨
┃ │合计 │其中 │师 │团 │营 │连 │基干民兵 ┃
┃ │ ├─────┬─────┬───────┤ │ │ │ ├───┬───┬────┬───┨
┃ │ │普通民兵 │基干民兵 │武装基干民兵 │ │ │ │ │团 │营 │连 │排 ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1949 │31492 │ │ │ │ │ │ │ │ │ │ │ ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1958 │124975 │59138 │65837 │ │1 │13 │577 │1288 │ │ │ │ ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1964 │124210 │54228 │69982 │ │1 │ │292 │ │ │ │297 │ ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1972 │164379 │59231 │105148 │3653 │1 │19 │89 │614 │1 │ │19 │ ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1976 │168543 │66721 │101822 │7329 │1 │20 │103 │638 │ │ │ │ ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1981 │59549 │47911 │11638 │ │ │1 │20 │ │ │ │6 │435 ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1983 │61840 │52197 │9643 │ │ │1 │20 │ │ │ │10 │390 ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1985 │60948 │51842 │9106 │ │ │1 │22 │815 │ │ │9 │336 ┃
┠───┼────┼─────┼─────┼───────┼───┼──┼───┼───┼───┼───┼────┼───┨
┃1987 │59433 │51877 │7556 │ │ │1 │22 │839 │ │ │3 │277 ┃
┗━━━┷━━━━┷━━━━━┷━━━━━┷━━━━━━━┷━━━┷━━┷━━━┷━━━┷━━━┷━━━┷━━━━┷━━━┛