清末，沂水县衙设兵房，并在垛庄(现属蒙阴县)设巡检，管理兵事，训练甲兵，
维持治安。1914年兵房、巡检撤销，县知事负责兵事，延续至1936年。
1928年12月，中国共产党沂水县委成立，设立县委军事部，1929年5月同县委一
起遭到破坏。1938年8月，中共沂水县委恢复，军事部相继建立，领导全县人民组织
抗日武装，发展群众武装组织，开展参军参战工作，成为党领导武装工作的组织指挥
机构。1941年秋，军事部撤销，成立县民主政府武装科，同时，各区政府设立武装助
理长，组织领导抗日工作。县武装科成立百余人教导队，培养训练武装工作骨干。1
942年8月后，根据抗日战争形势发展的变化，沂水县和临沂县北部，莒县北部、西部
相继划分为沂临边、沂南、沂源、沂中、沂北、莒沂边、沂东等县，各县抗日民主政
府先后都设立了武装科。1943年县武装科撤销，成立县武装工作委员会(简称武委会
)。县武委会内设参谋工作组、政治工作组、青抗部。1945年，县、区建立人民武装
部，为各级武委会的执行机关，正副部长由武委会正副主任担任。县、区武委会成为
在党委领导下负责协调各方面力量，贯彻执行党委关于民兵建设的政策和完成每一时
期民兵工作任务的机构。
解放战争时期，县、区人民武装部是同级党委领导下的一个部门，是党委的军事
部，行政上为省军区系统的一个独立组成部分。县人民武装部兼县委军事部，统一领
导县区武装部和人民武装工作，名称县武装力量指挥部。武装部内设参谋工作、政治
工作和总务3个股。1949年8月起，沂中县改称沂水县，县武装部改称沂水县人民武装
部。1950年10月，县、区人民武装部(简称人武部)改由军队系统供应。1951年5月，
县、区人武部列入人民解放军序列。1954年10月，县人武部改编为县兵役局(县人武
部保留，一个机构两个牌子)，负责民兵、兵役两项工作。设动员、统计、预备役军
官、征集、民兵5个科。区人武部撤销，保留1至2名武装助理员。1958年，重新设立
区人民武装部(后改称公社人武部)。1960年9月，县兵役局撤销，保留县人民武装部
，设作战训练、组织动员，政工3个科。1981年，作训和动员两科合并为作动科，增
设供管科，保留政工科。1985年区人武部改称乡(镇)人民武装部。1986年6月20日，
县人民武装部归地方建制。县人武部内设办公室，政工科、军事科，1989年增设后勤
科。县乡人武部为同级人民政府的兵役机关，在上级军事机关和同级人民政府领导下
负责辖区的兵役工作。