京杭运河北起北京，南迄杭州，经河北、天津、山东、江苏、浙江四省两市，贯通海河、黄河、淮河、长江、钱塘江五大水系，全长1794公里。它是中国劳动人民通过历代辛勤劳动建成的一条世界上开凿最早、规模最大、线路最长、延续时间最久、现在仍然续用的人工河道。
公元前482年，吴王夫差在山东鱼台和定陶之间开挖菏水（济宁老万福河的前身），沟通了济水和泗水，这是济宁历史上最早的人工运河。隋大业年间（605-618年）开通以洛阳为中心的大运河，北达涿郡，南到余杭，长2000余公里。元朝初年，忽必烈定都大都（今北京）。当时北方的经济基础比较薄弱，京师所需粮饷，主要靠比较发达的江淮供给。为了南粮北运，元朝廷将隋朝大运河“裁弯取直”。元至元十八年（1281年），元世祖忽必烈差李奥鲁赤、刘都水开挖济宁至东平75公里的济州河，第二年正式兴工，至元二十年完成。至元二十六年又开会通河，使济州河成为会通河的一部分。至元二十八年再开通惠河，到至元三十年完成，从此京杭大运河全线通航，漕船可由杭州直达大都。明洪武二十四年（1391年）黄河在原武县黑阳山决口，北流至安山，会通河被黄河泥沙淤积，运河中断。明永乐九年（1411年），明成祖采纳济宁同知潘叔正的意见，派工部尚书宋礼、侍郎金纯、都督周长等，发军工和民夫30万人重开会通河，从二月开始至六月完工，历时100天，对济宁至临清段192.5公里长的运河作了全面疏浚。同时废弃汶上袁家口（今梁山袁口）至寿张沙湾（今河南台前县）段长约57.5公里的元代旧河，东移10公里开新河，南北两端接旧河，新河在济宁境内比旧河短25公里。
运河从济宁城中穿过（1997年 董玉勋摄）
元代及明代前期，京杭大运河南阳至沛县段地处昭阳湖西，地势低洼，易于淤积，经常受到黄河的侵害。明嘉靖六年（1527年），黄河于徐州及曹县、单县、成武、丰县、沛县等地决口，黄河水入鸡鸣台，越过运河，入昭阳湖，淤塞运河15公里。嘉靖七年，总理河道都御史盛应期欲开挖南阳到留城新河，后因朝局影响，工程完成一半即停止。嘉靖四十四年，黄河于萧县决口，黄河水再入昭阳湖，运河淤塞，直接威胁京师之需，明朝廷遂在嘉靖四十五年开凿北起南阳三合口，过夏镇南至留城的南阳新河，亦称漕运新渠。该河全长70.5公里，位于湖东高地，冲淤问题解决。隆庆年间（1567-1572年）至万历三十四年（1606年），从夏镇李家水口引水，并经韩庄直抵邳县的泇河修通，全长130公里，将山东运河的南端东移，实现“黄运分立”。此后直至清末，运河河道未有大的变动。
1959年开挖梁济运河施工场面（董玉勋摄）
经明代治理后，济宁段大运河北起梁山县东北部张官屯附近与东平县交界处，经靳口、袁口、南旺、长沟、安居、济宁市城区、鲁桥、南阳、夏镇南至韩庄，全长229.65公里，约占京杭运河山东段长度的2/5。
中华人民共和国成立后，为解决京杭运河济宁段及其沿岸地区的航运、排水和灌溉问题，兴建了以梁济运河为主的多项工程。1958年4月，交通部报经国务院批准整治京杭运河。1959-1960年，开挖黄河以南至南四湖段运河，称为梁济运河。工程于1959年10月30日动工，济宁动员6.6万名民工，开挖下游龙拱河口至五里营段，长9.45公里，底宽60米，完成土方427.2万立方米。次年春季，济宁、菏泽两专区动员12.4万民工，开挖南起五里营，北至国那里，长78.34公里的河道。工程标准在赵王河入口以下底宽为30米，以上段为20～10米，完成土方2367.9万立方米。至2010年，该河北起黄河南岸的国那里村，流经梁山、汶上、嘉祥、任城，在李集西南入南阳湖，全长87.8公里，汇水面积3306平方公里。
梁济运河开挖后，又实施了一些续建和配套工程，主要有1962年泉河至长沟段扩大，1963年柳长河以下增大排渗流量的河道开挖，1967年按六级航道整理开挖，期间还对梁济运河的支流进行了治理，使河道系统更加完善。
20世纪80年代，梁济运河淤积严重，防洪除涝标准降低。1988年，经国家水利部批准，济宁水利部门按十年一遇防洪、三年一遇除涝流量50%的标准，进行河槽扩挖和筑堤，司垓闸至湖口57公里按东平湖滞洪退水1000立方米/秒的防洪标准退堤，内堤距扩到300米。整个工程分两期施工：一期工程从1989年11月-1990年1月，调集7个县（市、区）13.8万人，完成从宋金河口到郓城新河口长45.7公里的挖河筑堤工程；二期工程从1990年11月-1991年8月，调集11个县（市、区）的人力和机械进行施工，完成从湖口到郓城新河42公里的挖河筑堤、7条支流入口段削坡等工程。两期工程共完成土方2254万立方米。1992年，市政府批准该河两岸堤防绿化规划，分用材林区、风景林区、综合林区、经济林区四大部分，2010年，堤防林木覆盖率达到100%，形成纵贯南北的“绿色通道”。
经过历次治理，梁济运河对其流域产生了巨大影响。运河干流防洪能力由400立方米/秒提高到1260立方米/秒，除涝能力由110立方米/秒提高到309立方米/秒；流域内105万亩耕地的灌溉条件得到改善，可减少水灾面积23万亩；南旺湖、马踏湖、蜀山湖、马场湖不再蓄水，总面积200平方公里的湖洼变为良田；沿东平湖大部分土地由盐碱地变为良田，改善了农业生产条件。或为南四湖提供引黄补湖输水100立方米/秒的河槽，每年可从梁山县陈垓、国那里两个引黄闸经梁济运河引水3亿～5亿立方米，供应济宁市工农业生产用水。1990-1995年，梁济运河向济宁发电厂、运河电厂、印染厂等企业供水14.7亿立方米，2002年供水3.6亿立方米；河下游为南四湖滨湖排灌区，排灌面积300万亩，已建成大面积稻麦联作的粮田。
1996年8月-2000年12月，航运部门完成京杭运河济宁至台儿庄段续建工程，共开挖航道130公里，由原来的六级航道标准提高到三级标准，千吨货轮直达济宁。2009年6月，南水北调东线南四湖至东平湖段输水与航运结合工程开工，从湖口至邓楼泵站下58.25公里的梁济运河，按三级航道标准施工，输水流量为100立方米/秒，河底宽66～45米。
运河扩挖后，东平湖退泄底水的能力由原来的50立方米/秒提高到150立方米/秒；南排泄滞蓄水15亿立方米的时间，由317天缩短为116天，使东平湖51万亩耕地可以提前耕种。