1806年(清嘉庆十一年)，县设城汛把总，1818年改称城汛千总，主管水利工程。
1931年(民国20年)县设建设局并设水利专员主管水利事宜。后，水利由县公署主管。
建国初期，县人民政府建设科主管水利工作。1954年，成立水利委员会。1956年1月，县人民委员会设水利科，科设办公室、工程管理股，有干部、职工17人，其中水利工程技术人员3人。同年7月，水利科改为水利局。1958年12月，滋阳、曲阜合并，称曲阜县水利局。1962年1月，两县分治，置兖州县水利局。1963年10月，设兖州县水利建设指挥部。1968年2月，改称兖州县水利建设指挥部革命委员会。1969年2月，县机关机构合并，农口几个单位组建兖州县农林水电服务站革命委员会，同年12月，恢复兖州县水利建设指挥部革命委员会。1971年12月，改为兖州县革命委员会水利局。1974年11月，称兖州县水利局。1979年10月，水利局下设人秘、工管、工程、农田和财务5个股。1985年3月，增设县水资源管理委员会，下设办公室。1986年8月，水利局增设勘测设计室、测绘队。1989年12月，增设水政办公室。1990年底，水利局设9个股室，有干部、职工44人。辖 府河管理所、引泗回灌枢纽工程管理所、王村地下水均衡试验场、水利机械修造厂。1992年9月，兖州县水利局改称兖州市水利局。1993年12月，行政机构改革，市水利局9个股室合并调整为办公室、财务科、水政水资源管理办公室和工程科4个科室，行政编制20人。局直属事业单位6个，编制37人。其中引泗工程管理所、 府河管理所、地下水均衡实验场、水利勘察设计室、测绘管理所为全额拨款事业单位，水利机械服务站为差额拨款事业单位。
60年代初期，全县13处公社均设水利组，1983年4月，改设公社水利管理站。1987年，改为乡(镇)水利管理站，干部、职工50人。1990年底，全县水利系统共有干部、职工118人，其中行政人员62人，工程师6人，助理工程师19人，技术员31人。1994年1月，12个乡(镇)水利站的50名工作人员及其财、物划归当地乡镇政府管理。1995年底，全市水利系统工作人员共计109人。