第五战区鱼台县抗日司令部 1938年1月，共产党员马霄鹏、郭耕夫动员并协助爱国民主人士聂峨亭联合全县抗日武装，在谷亭成立第五战区鱼台县抗日司令部，聂峨亭任司令，司令部设参谋、副官、政训、秘书、军需、军械、军医等8个处。下辖3个大队，兵力约1000人。
五乡联防抗日救国司令部 1938年6月，郭耕夫等5名共产党员动员并协助爱国民主人士蒋如春成立程庄寨、张庄寨、张集、周堂、梁海等五乡联防抗日救国司令部。蒋如春任司令，程裕如任副司令，董慎哲任联络参谋。1939年4月，编入湖边游击第四大队。
鱼台县抗日自卫总团 1938年7月，由原第五战区鱼台县抗日司令部一、二大队整编而成。聂峨亭任团长，缪慕亭任参谋长，缪慕海任秘书长。下辖3个营，约500人。
湖边游击第四大队 1939年4月，鱼台县抗日自卫总团改编为八路军苏鲁豫支队后方办事处湖边游击第四大队。聂峨亭任大队长，周冠武任教导员，后由县委书记郭耕夫兼任。下辖3个分队，约200人。同年7月，编入湖边司令部。
湖边司令部 1939年7月1日，在谷亭与鱼台县抗日民主政府同时宣布成立，李贞乾任司令员(县长兼)，刘铭盘任副司令员。下辖3个大队，1个直属警卫中队，兵力约1000人。后相继成立一、二、三、四、七区中队。计500余人，属司令部统辖。1940年6月，湖边司令部编入苏鲁豫支队，原辖各区中队直属县委、县政府。
鱼台县独立营 1940年6月下旬，鱼台县抗日民主政府县长李贞乾动员其三弟李秉真从国民政府丰县常备队第十中队(李任中队长)拉出200余人(170余支枪)成立鱼台县独立营。李秉真任营长，陈怀玉任政委(县委书记兼)。1941年1月，升编为八路军一一五师教导四旅第十一团独立营。1945年11月，鱼台县委又通过扩军组建鱼台县独立第一、二营，约600人。张秀清任一营营长，于伟民任二营营长。1946年4月，编入中国人民解放军晋冀鲁豫野战军第六纵队。
大田队 1940年11月，由原一、二、四区区中队70余人(枪)合编而成。一区区长房郁英兼任大队长，四区区长张秀清兼任指导员，二区区长于伟民负责部队行政工作。1941年1月1日，因在金乡陈楼战斗中损失惨重而分散活动。
鱼台县大队 1941年7月，鱼台县抗日民主政府在丰县北大李庄村组建鱼台县大队，约90人。吕英任大队长(县长兼)，张杰三任副大队长，王景元任教导员。1943年8月22日，改编为丰鱼县大队。1944年上半年，扩充到团级编制，兵力1000余人。同年9月，丰鱼县大队改隶丰县，易名为丰县县大队。1947年1月，复建鱼台县大队，辖两个连，共200余人。朱启伦任大队长(县长兼)，后由王德裕继任(县长兼)，梁步庭任政委(县委书记兼)，李玉昆任副大队长。1948年3月，县大队发展到400余人。同年11月，将城关区、罗屯区、武台区、旧城区、合集区、第三区区中队和县武工队编入县大队，下辖5个连，兵力发展到500余人。1949年2月，编入中国人民解放军第二野战军。1949年4月，扩军500人，再建鱼台县大队，辖4个连。马诚谦任大队长(县长兼)，李干任政委(县委书记兼)，郭广义任副大队长。1950年2月，编入平原省军区警备第五团。
鱼台县挺进大队 1942年9月，由伪自卫团周长臣中队和周明智小队反正官兵80余人改编而成。周长臣任大队长，王立然任副政委，武鸣岚任参谋长，下辖一个中队。1944年3月，发展到3个连，赵前兼政委，国慎学任副大队长，刘干任参谋长。1945年7月，编入惠河支队。
金济鱼武工队 1943年2月成立，队员20余人。赵芳洲任队长，赵前任政委。1944年9月，随金济鱼办事处撤销而裁撤。
鱼台县武工队 1946年8月，第二次平息杆子会暴乱后，县内有两个民兵连，由县武委会主任赵广福领导。9月，在金乡县大棠村遭遇战中减员严重。11月，在阳谷县汤庄，部分人员与县、区党政干部合编为80余人的鱼台县武工队。朱启伦任队长(县长兼)，罗伯珩任政委(县委书记兼)，后由梁步庭继任(县委书记兼)。1947年11月，插回鱼台。1948年11月，并入鱼台县大队。
鱼台县中队 1950年1月，县公安局保卫队改编为县公安队，连级建制，隶属县公安局。1955年5月，改称人民武装警察鱼台县中队。1963年2月，改称中国人民公安鱼台县中队。1966年8月1日，编入军队序列，称中国人民解放军山东省鱼台县中队，隶属县人民武装部。1975年12月，移交县公安局，改称人民武装警察部队山东省鱼台县中队，受济宁市武警支队和县公安局双重领导。
人民武装部 1943年8月，建丰鱼县人民武装抗日自卫委员会(简称武委会)，主任陈云峰。1944年9月，撤销丰鱼县，恢复鱼台县建制。于伟民任鱼台县武委会主任，后由赵广福继任。1947年11月，改称人民武装部。1954年，改称兵役局，团级建制。1956年4月，并入金乡县兵役局。1964年11月，鱼台县从金乡县析出，复建鱼台县人民武装部，设动员、作训、政工3科，下辖8个公社武装部。1981年，改设作训动员科、供管科。1986年7月，设军事科、政工科、办公室。1987年增设后勤科。1989年7月，民兵训练基地、民兵装备仓库列入编制，隶属军事科。1990年，辖14处乡(镇)武装部及县直机关武装部。
1947年11月至1990年底，县人民武装部部长(局长)先后为梁锡鹏、赵广福、王福林、吴冠甲、耿万茂、谷广宽、崔洪胜、田业俭。1949年10月至1990年底，县人民武装部政委先后为李克、张德超、谢桂鼎、张程震、宫锡纪、李安民、张守业(沂源籍)、李绍柱、王元久、丁世芳、阎荣因。
附：日伪地方武装
鱼台县保卫团1939年2月9日，日本侵略军第二次侵占鱼台县城，县伪维持会网罗地痞流氓组建保卫团，下设一个大队，3个分队，团丁81人。后改编为县警备大队。
鱼台县自卫团1939年2月，鱼台县日伪政权委任李怀阳为自卫团长，时仅土匪武装十数人，枪七、八支。3月，李怀阳尾随日本侵略军在鱼台、金乡、单县一带“扫荡”，李以自卫团长名义，广泛收容散兵游勇、土匪流氓。8月，兵力扩充到1500余人，下辖3个大队，15个中队，1个直属手枪队，7个区中队。1944年9月，自卫团第三大队和3个区中队约700人反正。同年11月30日，日军恐李怀阳有变，令伪县长穆金成将其枪杀，伪自卫团余部相继反正，投向八路军冀鲁豫惠河支队。
鱼台县警备大队1939年11月11日，伪鱼台县保卫团改编为鱼台县警备大队，辖5个中队，团级建制。张荫南任大队长(伪县知事兼)，梁建福任副大队长。1945年8月，随日本侵略军投降而溃散。