1939年1月，山东分局决定在县以上党委建立军事部。1940年8月山东省战工会
设立了军事组，1941年3月改为军事处。先后在各行署、专署、县政府设立了武装
科，区政府设立了武装助理员。
1942年2月5日，山东省战工会在《修正山东省人民武装抗日自卫团暂行条例》
中规定，在主任区(军区)、专员区(军分区)、县(市)、区、村(行政村)，各级设人
民武装抗日自卫委员会(简称武委会)。9月4日，由各界推选出的代表，组成山东军
区人民武装抗日自卫临时委员会，并推选朱则民为主任委员，梁竹航、杨涤生为副
主任委员。在山东军区武委会的领导下，由下而上地逐级召开人民武装代表大会，
用民主选举的方法，建立区以上各级武委会。1943年9月9日，省召开首次人民武装
代表大会，正式产生了山东省武委会，朱则民为主任委员。
1945年8月12日，山东分局、山东军区决定在区以上各级建立人民武装部(简称
人武部)，但武委会系统仍然保留。各级武委会正副主任兼同级人武部正副部长。
解放战争时期，抗日自卫委员会改称人民武装委员会，亦简称“武委会”。各级武
委会成为在党委领导下负责协调各方面力量，贯彻落实党委关于民兵建设的方针、
政策和完成每一时期民兵工作任务的机构。
建国后，人民武装委员会制度，作为领导民兵建设的传统继承下来。1952年12
月4日，中共中央决定：“在人民革命军事委员会下建立各级人民武装委员会。各
中央局、中央分局、省委、地委、县委、区委及地方支部，均须吸收有关部门的主
要干部，组成各该级人民武装委员会，主任由同级党委书记兼任之。”1953年春，
山东省省、地、县、区党委，先后建立健全了各级人民武装委员会。乡武委会是在
5月以后结合普选逐步建立起来的。各级武委会建立后，同级人民武装部门为其办
事机关。
1955年国家兵役制度改革以后，根据《兵役法》的有关规定，县以上各级人民
武装委员会改为兵役委员会，在各级党委、政府领导下，统一领导兵役、民兵工作。
1960年春，各级兵役委员会改为各该级党委民兵工作组，党委书记兼组长。1961年
12月，县以上各级党委民兵工作组复称人民武装委员会。“文化大革命”期间，武
委会的制度遭到破坏。1979年重新恢复了各级人民武装委员会。