新四军第一纵队 1946年1月，新四军第一纵队司令员叶飞、政委赖传珠率3个步兵旅攻打兖州城，停战后部队集结城外，指挥部驻城西薛家庙村。1946年4月下旬奉命撤离。
华东野战军第七、第十三纵队 1948年夏季，人民解放军第七纵队(司令员成钧、政委赵启民)、第十三纵队(司令员周志坚、政委廖海光)及鲁中军区部队驻兖州城外，待命解放兖州。7月1日包围兖州城，12日发起总攻，次日攻克兖州，为兖州解放立下了赫赫战功。后，部队调离。
兖州市卫戍部队 1948年7月13日兖州解放，鲁中二分区第三团为兖州市卫戍部队，司令部驻城内(司令员封振武，政委冯起)。同年8月部队调离。
护桥部队 1948年7月，中国人民解放军铁道兵运输部队第十九师六团二营进驻兖州，执行铁路大桥守护任务，守护徐州至济南区段9座桥梁。兖州、泰安、党家庄各驻1个连，营部驻兖州(火车)站下，驻兖护桥连驻城东南铁路大桥北侧。
1959年1月，护桥部队改为中国人民公安部队山东总队三支队二大队，1962年1月改为山东公安总队三团二营，1966年7月改为山东省军区独立第二师步兵第六团二营，1969年1月改为山东省军区第二师七团一营，1977年1月，护桥任务转交地方负责，部队撤离。
中国人民解放军54864部队 1959年11月进驻兖州，时称中国人民解放军5205部队，后改为6185、55203、54864部队。该部队自50年代至今，一直保持革命战争年代的优良传统，积极组织干部战士参加地方建设，在抗灾斗争、农田基本建设、爱国卫生运动、维护社会治安以及精神文明共建等活动中作出了卓越贡献，加深了军政、军民鱼水关系。
第九十一医院 1951年1月组建，为华东军区后勤卫生部第十五野战军医院，同年由上海迁驻兖州。1953年改编为华东军区第十五陆军医院，1954年10月改编为中国人民解放军第九十一医院，隶属山东军区。1955年5月划归济南军区后勤部，1965年隶属后勤部第十一分部，1992年隶属后勤部第九分部，1994年隶属后勤部薛城办事处。
铁道兵第一师 中国人民解放军铁道兵第一师，于1980年8月由湖北省襄樊市调到兖州，参加兖(州)石(臼所)铁路兖临(沂)段工程建设。师部驻旧关村东北处，称89201部队，辖5个团，1万多人。1984年1月1日，改为铁道部第十一工程局，属地方编制。1985年12月，迁离兖州。
济南军区兖州管理局 1985年12月成立，机关驻兖州钟楼街。下设办公室和营房、政治、财务劳资、计划、业务5个科。主要任务是接管部队整编后空闲房地产，组织开发利用。1986、1987年在泰安、曲阜、邹县、鱼台设立办事处，初步形成了鲁西南地区军队房地产开发网络。1990年兖州管理局迁往泰安，留1名副局长主持工作，对外仍称兖州管理局。有官兵70余人，兼管邹县、曲阜、鱼台3个办事处。
附 侵兖日军及其暴行
1938年1月4日(丁丑年腊月初三)，日军侵占兖州。日军第十二军三十二师团(司令井村)驻城内，下设6个联队。英井联队1500多人驻城东飞机场及东大营，大山联队(宪兵队)200多人驻新东门里，广江、八木炮兵联队700多人驻城西南隅第四乡师，骑兵联队及宪兵队600余人驻老东门外。日本宪兵队设特高、经济、警务、庶务4个系及拘留所、刑讯室，豢养特务500多名。1944年6月，组建一支武装特务部队，称1840部队，又称吴谷中队，有日本特务200多名，汉奸特务170多名。
日军侵占兖州后，疯狂地进行烧、杀、抢、掠，残害兖州人民，制造了多起惨案。
火烧翟村 1938年1月4日，日军先头部队约1个连的兵力路经翟村，烧毁臧春明两间平房、1座大门和6垛柴草。7日，日军大部队再次从翟村经过，又在该村燃起大火。大火从傍晚一直烧到第二天下午，共烧掉柴草10余万公斤，木器家具9700余件，衣物15000余件。抢走金银首饰数百件，家禽2000余只，刺死村民李茂森，对妇女进行灭绝人性的糟践。9日，日军复袭翟村，有7名青年妇女被强奸，老年和残疾妇女也未能逃脱。
故县惨案 1938年5月7日，4、5百名日军路过故县村，发现少了两个士兵，认为被故县村老百姓杀害，便把故县村包围起来，进行了惨无人道的大屠杀。杀死村民21人，打伤17人。烧毁房屋200多间，抢走大牲畜120多头，毁坏大批家具。
村民王玉珠被日军砸死，李贵臣的头被砍下扔进粪坑，一位老人被扔到火里活活烧死，农民王凤山、马兆瑞、孙业春被杀死扔到村东井旁，窦玉海、田士宾、贾二孩子(乳名)被刺刀穿得全身都是血窟窿而惨死，6岁的女孩王玉美被日军扔在水坑里，重病卧床的王忠德，被割去耳朵。数名妇女被糟践，有的被轮奸后扔到井里活活淹死。
马棚失火案 1942年秋，一天凌晨，城隍庙街日军马料仓库着火，日军宪兵队特务头子佐藤下令戒严，沿街搜捕放火人。居民程登科、张德明被当作“嫌疑犯”抓进宪兵队遭毒打。接着又把道士张明亮、居民束其敏、梁广文、孙运成、唐玉生、徐世梓、魏德河等十几人关进宪兵队。日本宪兵施用皮鞭抽、木棍打、狼狗撕咬、灌饱凉水踩肚皮等刑罚，将他们折磨得死去活来。张德明熬不过酷刑自杀身亡，程登科承受不了折磨，招认“放火”被杀死于狱中，梁广文受尽酷刑，保释不久含恨死去。其余几人也被害得家破人亡。
杀害爱国师生 1940年5月27日夜，侵兖日军分队长小田春和特务系长班航，率特务60余人抓捕了曲阜师范学校校长、教师和学生35人，6人被杀害，6人冤死狱中，5人被罚劳役，其余的也受尽酷刑。提起宪兵队，群众无不恨之入骨。