1944年10月，中共兖济县委建立，辖原湖东县的第四分区委(驻仲浅，今属微山县)和第五分区委(驻南贯集，今属济宁市任城区)。以后又派四分区委书记王东升等到济宁城南王贵屯一带开展工作，并于1945年3月建立了兖济县第三分区委。至1945年底，共建党支部37个。随着形势的发展，新区的扩大，兖济县辖区有较大变化。1946年2月，县委辖二区(泗庄)、三区(长庆)、四区(仲浅)、五区(南贯集)、六区(王因)、七区(嵫山)、八区(新驿)、九区(谷村)8个分区委。是年4月，兖济县改为滋阳县，四、五区同时划归济宁县。中共滋阳县委辖6个分区委。
1946年6月，国民党反动派发动全面内战。县委在“一切为了战争胜利”的思想指导下，加强了党的建设，全县建立农村支部76个。1947年春，国民党军队重点进攻山东，境内党的基层组织遭到不同程度的破坏。1948年7月，兖州解放，兖州市委设3个分区委，滋阳县委恢复建立了6个分区委。年底，市并入县，县委增设城关分区委。1949年8月又增设漕河、太平两个分区委。至此，全县共有9个分区委，22个党支部。
1950年11月，有党支部63个。至1955年12月，全县有9个区党委，1个党组，35个党总支,174个党支部。1956年3月撤销河庄区委，至8月，全县共有7个区委，1个镇党委和18个乡党委。11月，增设5个大乡，全县共有25个党总支，174个党支部。1958年3月撤销各区区委，24个乡(镇)党委直属县委。是年8月，实行人民公社建制，全县有6个人民公社党委。11月，曲、滋两县合并，全县有16个人民公社党委，141个党总支，603个党支部。1962年1月两县分治，全县设城关、谷村、大安、小孟、新驿、颜店、泗庄、黄屯、王因、道沟10个人民公社党委及县直机关党委、人民武装部党委等5个部门党委，有3个党组，13个党总支，545个党支部。1965年底，全县有594个基层党支部。
“文化大革命”期间，党的各级组织普遍受到冲击，党内组织生活一度停止。1969年9月，中共兖州县革命委员会核心领导小组建立后，全县党组织逐渐恢复起来。1972年1月，增设漕河、红星两处人民公社，年底，全县共有1个镇党委，12个公社党委及1个党校党委，有党总支78个，党支部593个。
1976年10月，全县各级党组织进行整顿，建立健全各项制度，年底，全县共有13个公社(镇)党委及机关党委等两个部门党委，89个党总支，700个党支部。1982年，全县有1个镇党委、14个公社党委及机关党委、武装部党委等3个部门党委，有县政府、法院、检察院等14个党组和122个党总支、836个党支部。1984年5月全县有1个镇党委，12个区党委,辖37个乡(镇)党委。1986年12月，全县设兖州、大安、新驿、颜店、王因5个镇党委和城郊、谷村、漕河、小孟、泗庄、前海、黄屯、堡子8个乡党委及机关党委、党校党委、县政府工作机构中的党委、武装部党委等19个部门党委，有党总支85个，党支部964个。1990年全县共有30个党委、13个党组、114个党总支、1113个党支部。1992年9月，兖州撤县设市，中共兖州市委有基层党委32个，党组18个，党总支127个，党支部1143个。至1995年底，全市共设有基层党委36个，党组17个，党总支144个，党支部1205个。