1939年2～5月，山东纵队和各支队建立后方司令部，负责组织领导群众武装和
地方武装。后来，在主任区、专员区建立了军区、军分区，作为领导指挥部队、民
兵的军事机关，军区、军分区的主要领导干部为该级地方党委的军事部长。1942年
6月，山东分局在《关于地方武装组织领导问题的指示》中指出，军区、军分区政
治部(处)设的人民武装动员科(股)，也是地方党委组织推行人民武装工作的业务部
门。1942年8月以后，随着各级人民武装抗日自卫委员会的建立，撤销了设在军分
区以上政治机关的人民武装动员部、科。
1945年8月以后，山东军区系统县以上各级设立人民武装部，区设区团部或人
民武装部，既是军区系统的组成部分，也是地方政权中的军事机构，并保持自省至
村的垂直系统。截止年底，山东军区和5个三级军区、17个军分区、115个县(缺6个
县)、719个区(缺渤海区)，均建立了人民武装部。配有脱离生产的干部5030人。
1946年9月，华东局决定，各级人武部是地方党委的军事部。县人武部兼县军
事指挥部，统一领导县、区武装和人民武装。县委书记兼人武部政治委员，县人武
部长为县委委员。各级人武部是党委的一个部门。各军区、军分区的人武部长，可
兼任同级副司令员或副参谋长，否则由副司令员或参谋长兼部长，另设副部长1～2
人。1947年6月11日，华东局指示，将县、区两级人武部与地方武装领导机构分开，
保持其垂直系统。1949年3月，军分区以上各级人武部合并于各级军区，各级军区
统一领导人民武装与地方武装，不另设人民武装机构。
1950年春，中央军委指示：“自军委至县、区成立人民武装部，归军区系统。
在目前领导民兵，协助复员工作，将来过渡为兵役动员机构。”是年3月，山东军
区司令部建立了人民武装处。12月改称山东军区人武部，仍隶属于军区司令部。
1951年3～5月，除渤海军区外，各军区、军分区及县、区人武部全部按新编制建立
健全起来，并为县、区人武部充实了1271名干部。新建立的军区、军分区人武部均
隶同级军区司令部，对上级或下级人武部，没有垂直领导或被领导关系，只是业务
上的指导或被指导的关系。但县区人武部之间是垂直领导关系。各级人武部属于人
民解放军的序列，其番号均冠以“中国人民解放军”字样。1952年12月，全省共有
14个军分区，3个省辖市、157个县(市、区)人武部。县、区两级人武干部，由1950
年的1860人增至6628人。
1954年6月，山东军区司令部人武部改编为山东省兵役局(对内仍称人武部)，
在山东军区和山东省委、省政府双重领导下，负责全省的兵役和民兵工作。
1960年2月，山东省委、济南军区党委决定成立军区人民武装部。10月，省、
县、市兵役局统称人民武装部，人民公社亦成立人民武装部。1961年2月，军区人
武部扩编为济南军区动员部；10月，改编为山东省军区。各军分区、省辖市人武部
隶属于省军区建制领导。此后，省军区、军分区、警备区、各级人武部领导民兵的
体制一直未变。