抗日战争和解放战争时期，区设武装委员会，后改称区人民武装部。
1954年9月，撤销各区人民武装部，设武装助理1人。1961年8月，恢复全县17处人民公社武装部，编制2～3人，公社党委书记兼任公社武装部政委。
1971年3月，设立县直机关武装部，编制3人。1973年5月，设立沂南金矿武装部，编制3人。1978年4月，增设重山公社武装部。1984年6月，设区建乡，县武装部时辖17个区、61个乡镇武装部。1985年9月，全县调整为28个乡镇。县武装部时辖28个乡镇及县直、沂南金矿共计30个基层武装部。
1939～1989年沂南县人民武装部领导人更迭表
┌─────┬───┬───┬──┬────┬────┬────┬────────┐
│机构名称 │职务 │姓名 │性别│出生年月│籍贯 │文化程度│任期 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│军事动员部│部长 │张圣府│男 │ │ │ │1939.10-1940.2 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│军事动员部│部长 │孙绍勋│男 │ │ │ │1940.2-1940.10 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装科 │科长 │孙绍勋│男 │ │ │ │1940.12-1941.12 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│县大队 │大队长│徐敏山│男 │1905 │沂南 │ │1943.7-1944.10 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装科 │科长 │赵任远│男 │ │ │ │1944.10-1945.10 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │安学臣│男 │ │新泰 │ │1945.10-1949.12 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │田守明│男 │ │ │ │1950.2-1952.7 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │许广元│男 │ │ │ │1952.10-1953.10 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │李明兰│男 │ │ │ │1953.10-1954.10 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│兵役局 │局长 │李明兰│男 │ │ │ │1954.10-1958.11 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│兵役局 │政委 │李守克│男 │ │沂南 │ │1955.5-1958.5 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│兵役局 │政委 │赵竹生│男 │ │莱芜 │ │1958.5-1958.11 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │李明兰│男 │ │ │ │1961.12-1964.9 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │朱凤九│男 │ │沂南 │ │1961.8-1979.2 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │施竹荣│男 │ │ │ │1961.8-1964.9 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │王志敬│男 │ │临沭 │ │1964.10-1971.3 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │潘远德│男 │ │莒南 │ │1965.1-1966.8 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │李作彦│男 │ │海阳 │ │1971.3-1976.1 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │宋辉泽│男 │ │文登 │ │1970.6-1982.2 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │遇建国│男 │ │ │ │1976.1-1978.9 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │董观涛│男 │ │苍山 │ │1976.3-1977.10 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │宋嘉祥│男 │ │沂南 │ │1978.9-1983.8 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │支玉斌│男 │ │莒南 │初中 │1979.2-1984.2 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │朱荣 │男 │ │安丘 │ │1982.12-1983.8 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │朱荣 │男 │ │安丘 │ │1983.8-1985.12 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │辛云岩│男 │ │肥城 │大本 │1984.2-1985.12 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │张熙新│男 │ │ │ │1983.8-1985.7 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │周锡锋│男 │1947.8 │沂南 │大专 │1986.1-1993.1 │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │沙钊 │男 │1947.12 │江苏如皋│高中 │1986.6- │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │部长 │班福祥│男 │1950.12 │莒县 │大专 │1993.2- │
├─────┼───┼───┼──┼────┼────┼────┼────────┤
│武装部 │政委 │赵庆良│男 │1954.11 │东平 │大专 │1995.3- │
└─────┴───┴───┴──┴────┴────┴────┴────────┘