1907年(清光绪三十三年)，公用设施营缮事宜由警务长负责。1909年(清宣统元年)，县公署设工房管理公用设施建设。1912年(民国元年)，县政府设劝业所，1913年改为实业科，1938年改为建设科，管理建设事宜。
1948年7月，兖州市政府设市政科，管理城市建设事宜，同年12月撤销。1949年3月，县人民政府设建设科兼管城市建设，1956年撤销建设科。1957年1月，设房产科，管理建设事宜。1958年3月，撤销房产科，城市建设由财政局负责。同年11月县人委设城市基本建设委员会。1960年3月，设建筑工程局，同年11月撤销。1962年，撤销城市基本建设委员会，城市建设由县计划委员会负责。1971年12月，设城市基本建设局，局机关下设办公室、人秘股、市政股、财会股、设计室。1976年6月，设城市基本建设委员会，辖城市基本建设局，同年8月城市基本建设局改称城市建设局。1984年5月，城市基本建设委员会改称城乡建设委员会，同时撤销城市建设局。建委下设党委办公室、秘书科、劳资科、城建科、农房科、施工科、招标办公室、工程质量监测站、财务科、设计所、城市开发办公室、史志办公室。
1990年，建委设有15个科、室、站。1993年机构改革，建委机关调整为6个职能科室。1995年，设办公室、政工科、会计统计科、城市规划管理科、城市建设管理科、村镇建设管理科，辖城市规划处、建筑工程管理处、城市管理监察大队、建筑设计院。