运河济宁段恰处京杭大运河的中枢区段，运河开凿和运行过程中遇到的地形高低悬殊、水源不足以及黄河决溢造成运道淤塞等重大问题大部分集中在此。特别是济宁城北的南旺被称为“水脊”“驼峰”，为运河全线制高点。史载，运河从这里向北到御河边的临清，落差达90尺；向南到黄河边（元代黄河夺淮水入黄海）的沽头（今江苏沛县城西），落差达116尺，实际相差达十几米。两端低，中间高，状如拱桥，通水相当困难，这一段史称运河全线的“咽喉”“锁钥”区段。济宁又地当运河与黄河交汇处，两河一直处在你死我活的纠缠中。黄河作为运河的“死穴”，频繁不断的泛滥侵扰致使泥沙淤运，加上鲁西水源不足，常常造成运河河道浅涩不通或有河无水。济宁所处地理位置对于运河的险要程度至关重要，处理好治黄与保运的关系、保障有足够的水源让漕运畅通，成为治运成败的两大难题。
正是因为这些特殊性和重要性，济宁段运河经常成为廷议、部署实施工程的重要区域，备受元明清三代王朝的关注，因而把治运最高机构设在了济宁，在重点整治济宁河段的同时，负责对运河全线进行整治和督理。元明清三代的济宁，朝廷关注，重臣驻节，百官聚集，千军防守，理所当然地成为运河全线的政治中心。
据考，元代在济宁初设开浚大臣，后设都水监、行都水督和总治河防使，其官阶一般为正三品。明代在济宁设总督河道，亦称总理河道、总理河漕等，简称总河，均由朝廷钦命署理，为运河最高行政管理机构，是朝廷六大部外增设的一个部院级的朝廷直属机构，官阶为正二品，也有正一品、从一品大员充任。清朝管河治运机构多袭明制，设总河部院，钦命署理，秩正二品。据雍正《清会典》载：“顺治初，仅设河道总督一人，又称总河，综理黄河、运河两河事务，驻济宁州。”雍正七年（1729年）、八年（1730年），河道分段管理，设为三督，官阶仍为正二品。江南河道总督驻清江浦，称南河；河南、山东河道总督驻济宁州，称东河；直隶河道总督驻天津，称北河。其建制一直延续到清光绪二十八年（1902年）罢河运。据考，自清顺治元年（1644年）至清光绪二十八年（1902年）的258年间，朝廷钦命驻节济宁的总河、东河总督102任，共有85人充任，其中也有正一品大员兼署者。
河道总督衙门是运河、黄河的最高行政管理机构，同时，又拥有着自己的军队，并依靠军队来实现其总督职能。运河贯通后，于元至元二十二年（1285年）二月，济州增加漕舟3000艘、役夫1.2万人。当时，漕运至京都的粮米约百万担，其中通过济宁所运漕粮达30万担，占全国北调南粮的近三分之一。为管理漕运，朝廷在济宁城南的鲁桥设立了都漕运司使。元至正十年（1350年）设济宁兵马司，驻扎辅漕兵士1.2万人。元至正十六年（1356年），置济宁枢密分院。明代驻济宁的军事机构为总理河道军门署，下设道、卫，负责节制南北直隶和河南、山东各道。济宁驻军最多时达1.3万人。除固定的道、卫、署、衙外，还有其他的军司。明永乐十八年（1420年），行军司马樊敬受命提兵10万镇守济宁。正德之后，朝廷每年均遣尚书、都御史等大员兼理运河军事。明隆庆四年（1570年），朝廷为总河加提督军事职衔。一时间，济宁成了朝廷不可一日疏忽的军事要地。清代，朝廷为河道总督加兵部侍郎、右都御史衔，秩正二品。清顺治初年，总河杨方兴奏请设河标中军副将署，作为河道总督衙门的直属机构，也是运河全线的最高治河军职衙门，驻节济宁州。河标中军副将署为总河副职、河标兵丁主帅，从二品，其职责为总理运河营防，催调粮草，护卫漕船，沿河治安等。河标中军副将署下辖驻守沿运河各城镇的河标营和卫。
由于朝廷把治运的最高行政机关及其军事机关设在济宁，其下属的各级各类机构自然很多。济宁古城内，东门大街路北之一部分、西门大街路北之大部、南门口路东、北门大街路东大部，均为治河司运衙门所占。此外，草桥北以及南城的部分地段亦为治河司运衙门所占。济宁城周围，村名多营屯，皆为河标各营及两卫屯田处。营属村庄称营，卫属村庄称屯。营、卫属村庄由营、卫自己管理。济宁马场湖、马踏湖，皆因河标营及两卫屯田养马而得名。济宁城区除中央设置的总督河道衙署之外，各级官署在济宁也先后设置了一些有关治河的机构，常常是设此而又撤彼，有的则纯属临时办事机构，名目繁多。如自明代至清乾隆年间，先后有“治水行台”“工部都水分司”“布政司行台”“布政分司”“分守东河道行台”“济宁分司”“按察司行台”“南旺分司”“济宁管河州判署”等等。元明清三代驻济宁的各级各类治运以及行政监察机构比比皆是，不可胜记。因而，济宁故有“七十二衙门”之说，这是除北京、天津之外的沿运各城市所无法比拟的。
河道总督署。河道总督署坐落在古城院门口街西北隅、济宁州衙东侧，北至总后街，东至古槐路，西至云路街，即今济宁一中西校区教师宿舍址。原为元代治河工程中央机关都水监驻节济宁处，即元济州衙门旧址，济州迁巨野后闲置。明朝于此设左卫指挥使署，宣德二年调卫临清改置军门署。“明永乐九年工部尚书宋礼建衙署为总督河道都御史署，明弘治年间尚书陈某、明隆庆御史翁大立重修。”后经清代多次重修，最后形成规模。后人习称为河道总督署、总督衙门、河道部院署、河院署、河署、院署等。为元明清三朝治运的最高行政机构，是正二品朝廷命官的衙署。明清两代治河名臣潘季驯、朱衡、刘东星、朱之锡、靳辅、张鹏翮、林则徐等均在此任职过。
河道总督署占地5公顷，建筑面积达1.6万平方米，设有大堂、二堂、三堂，有书院、射圃、演武厅等，其规模宏大，布局严谨，气势威严。河道总督署大门为三门四楹，门侧矗立石狮一对，两旁各建吹鼓亭一座。左右为东西辕门，东辕门额曰“砥柱中原”，内曰“清晏”，后改“底定”；西辕门额曰“转漕上国”，内曰“平成”。辕门内外有内道厅、旗鼓厅、中军厅、巡捕厅等。正对大门的是一座高约6米、宽约20余米的照壁。大门内有仪门三门六楹、大堂六楹，有清康熙间河道总督靳辅题额“清廉慎勤”“保障北流，尊闻集思”。大堂左有四思堂，明隆庆间总河翁大立隶书题额，内存题名碑，碑阴刻录有禹稷、伊尹、周公、孔子的铭文。二门内有后堂六楹，额曰“禹思堂”“淡泊宁静”，为清康熙间河道总督张鹏翮题。左右为椽房、茶房。三门内有三堂。后为部院内宅。左为“帝咨楼”，明崇祯间工部右侍郎刘荣嗣建。清代第一任总河杨方兴改称“雅歌楼”，后又称“挽洗楼”。又东后为乐圃，清乾隆四十二年（1777年）总河姚立德改额曰“平治山堂”。署西为射圃，射圃原属州学，康熙初年总河卢崇峻圈入署内。再后有部院后宅。各堂室均有楹联。
河道总督署于清光绪二十八年（1902年）裁撤，随即由兖州迁来的“兖沂曹济道署”占用。民国时期，在此设“山东高等法院第三分院”。该院把南起衙神祠，北至挽洗楼的原东路建筑物全部拆除，改建成欧式楼房。原中、西两路的所有建筑物维修后继续使用，保存完好。1938年1月，被侵华日军“加贺美部队”占为兵营，遭到严重毁坏。1946年秋，残存建筑物和大量碑碣被国民党军用来修筑城防工事，此处变成广场。
明清时期驻济宁总督河道部院署示意图
河标中军署。清代河道总督直接统领的一支治河军队叫“河标”，这是清代河道总督与明代河道总督职权的显著区别。河标，是由汉族士兵组成的“绿旗兵”（亦称绿营兵），其统领官称为“河标中军”，是河道总督的副职武官，由从二品的副将担任，又称“协台”。标以下设营，由正三品的参将、从三品的游击、正四品的都司、正五品的守备分领各营兵驻守沿河府或直隶州。营以下又设汛，由正六品的千总或正七品的把总带部分营兵驻守沿河县城或集镇，所以“汛”的衙署又称“千总衙门”。“河标”与漕运总督统领的负责漕粮运输的“漕标”，是两支平级的军队，虽沿河驻扎的地方多有重叠，但各司其职。河标中军署为军职衙门，专管运河营务，系河道总督署直属军事机构，负责节制南直隶、北直隶、河南、山东各道。
河标中军署，坐落在今东门里路北。全称“河标中军副将署”，又称中军协镇署，俗称“协台衙门”。此地原为元代济宁路总管府旧址，明初为沂州兵备道驻节处，明正德十年（1515年）沂州兵备道迁沂州后改属东兖道署。河标中军署清初始设，都御史加兵备衔万年恭即驻节于此，清康熙三十八年（1699年）左都督王允昌有题名碑记。清嘉庆二十二年（1817年）署中添建中营箭厅。清道光十年（1830年）修葺大堂、抱厦，副将惠泉亦有碑记其事。河标中军副将署初辖三个营，有兵3000人，后节制8个营，即：左营参将署，其职责为调遣河工，防汛守险等军务；右营游击署，负责防守应援；中营都司署，负责总理河渠营务；右营守备署，掌管绿营兵，有事听调；左营守备署，职司同前；中营守备署，乾隆十八年改称中营守备都司署；城守营守备署；运河营守备署。该8个衙署分布在东门大街路北和北门大街内，或租房设置。清末裁撤之后，河标中军署堂舍屋宇被官方拍卖拆毁。地基西半部分建民居，东半部分设菜市场。仅存总府口街跨街木牌坊两座，衙前石狮和旗杆石墩各一对，至1938年被日军毁坏无存。
左营参将署。坐落在城内北门里大街路东，与潘家大楼隔街相望而偏北，门前有跨街木牌坊一架，清末裁撤，此后一直驻军。民国时期，经军方拆除改建为营房，中心部位辟为操场。新中国成立后，济宁军分区修械所驻此，现拆除改建为商业大楼。
左营参将署设中军参将1员（正三品），守备1员（正四品，并另设左营守备署）。所辖官司有千总2员、把总4员、外委千总1员、外委把总2员，防漕河14汛。分防南自山东新庄桥，北经鱼台、济宁等河道，按汛驻防。南接江南徐州营界，北至济宁城守营韦驮庙界，计程150里。
运河道署。又称“山东通省运河兵备道署”，是掌管运河疏浚堤防的官署衙门。山东运河道辖沂州、曹濮、临清、济宁四个道，沂州道、济宁道均驻节济宁。明万历《兖州府志》称：“沂州猗角东南，弹压山海；临清节制西北，北控燕齐；曹濮在河堤之上，绾毂三省；济宁处漕渠之中，襟带四方。”
运河道署押签房
运河道署坐落在城内西南隅道门口街路北、河院署南邻，即今济宁一中西校区南半部分。此地原为济宁卫署，清康熙九年（1670年）移济宁卫署于察院街，此处改为运河道署。清康熙十一年（1672年），由岳登科重修。道署衙门正堂六楹，前有抱厦如堂，后有数德堂四楹，左为客厅，右为书吏房，又东为书轩，后为署眷内宅。堂两侧为皂隶、门房。前为仪门，门东为寅宾馆，门西为衙神、土地祠。清康熙四十四年（1705年）御书“布泽安流”匾悬于大堂额上。又额曰“鉴民如水”，为清乾隆间总河姚立德题。清光绪二十八年（1902年）裁撤，改设中学。厅堂屋宇虽经校方屡次改建，而过厅式大门、门前照壁和大型石狮以及道台押签房（书房）院的建筑物却保存完好。1938年1月，侵华日军的后方医院强占校址，大门、石狮、照壁被毁。抗战胜利后，仍设置中学，原道台押签房院仍为校长办公处所。院内回廊壁上镶嵌碑刻数十方，分别记述历任道台的治河业绩及升迁去向，弥足珍贵，可惜在“文革”时拆毁。现运河道署房舍无存，仅存两通碑刻于市博物馆。
运河同知厅。全称“运河同知理事厅”，位于州县衙西南、厅门口街路北。明隆庆三年（1569年）始建，原为曾子书院，后为颐真宫，也称过正学书院，清初改建为官署，后临南更道街。该署正堂四楹，同知王兴尧题额“思省堂”，同知黄庆安题联。东为客厅，西为吏房，后为署眷住宅。楼四楹，额曰“禹荫轩”。又西为曾子故居、曾子祠。后改题曰“两河领袖，五河权衡”。再西为三桧堂，有老桧三株，为“数千年物也”。其后为委蛇阁，清代麻城王有容建。东西为书吏房。仪门东为寅宾馆，西为土地祠。前为大门，大门前牌坊额曰“三省”，为曾子书院旧物，霍凌云题。东牌坊曰“符分望国”，西牌坊曰“饷转神京”。有清康熙九年（1670年）王有容题名碑。
清光绪二十八年（1902年）裁撤之后，全部厅堂房舍经官方拍卖拆毁，地基建民居。1956年，南京工学院（东南大学）建筑系教授梁思成先生的弟子刘敦增，由曲阜来济宁考察时，发现此处史姓院内保存该官署原建花厅三间，楠木梁架，呼吁保护。1958年被房产部门拆除改建。此后，其他民居亦被市第二五金厂（市索具厂）占用，改建为厂房。近几年又改建成菜市场，旧迹全无。
运河守备署。全称“运河营守备署”，坐落在城内西北隅州后街路北。建筑有大堂、二堂、东西配房、内宅等，共三进院落。“运河营守备”是正五品武职官员。清咸同年间，由于鲁西南捻军之战，济宁“城守营”亦归其节制，加上原“河标”左、中、右三营在济营兵，共四营，因此，俗称该官署为“四营守备衙门”，清末裁撤。日伪统治时期，改设“济宁县警察局第二分驻所”，还曾设立“济汶金嘉四县联立乡村师范女生部”。抗日战争胜利后由中国驻军。1948年7月济宁二次解放，被居民逐步占用拆改，门前仅存高大石狮一对，后亦不知去向。
济宁卫署。明洪武元年（1368年）八月，改济宁卫为燕山右卫，后又设济宁左卫。明永乐五年（1407年），复设济宁卫。济宁卫有屯地2394顷零91亩，分布在郓城、巨野、金乡、嘉祥等四县。署内原有明嘉靖十四年（1535年）指挥使题名碑一通。明制：一郡设所，连郡设卫，每卫兵丁满额5600人，上隶济宁道，下辖千总、把总等。道又属河院总督节制，各卫之下分设守备，统率运河守备兵丁，领运漕粮。嘉祥县青山寺有明弘治六年（1493年）碑，碑文中有“济宁卫百户姚福”题名，说明卫守备下有百户官。又有一碑，为明正统九年（1444年）总督漕运右参将汤节所立。碑阴有“济宁左卫指挥使狄口”和“济宁卫指挥使赵荣”等题名。济宁卫署，清乾隆二十八年（1763年）守备王公谟重修，亦有碑记。这时的济宁卫署已是统领河标绿营兵的专司漕运机构。清道光六年（1826年）守备张梦熊重修。
济宁卫衙署。全称“济宁卫守备署”，地址在城内东北隅卫门口街。明初，这里是“都察院”，即巡抚、巡按、御史等官员来济视事的驻地，都察院门前的东西向长街便取名“察院街”，后“济宁卫指挥”官署移驻这里。清初，“济宁卫”设“守备”，官署亦驻此处，以故察院街东段，改称“卫门口街”。济宁卫衙署屡经扩建，颇具规模。清光绪三十一年（1905年），因漕运终止，该官署被裁撤。民国时期，这里设置“山东省立第三工业职业学校”，部分房舍虽经校方改建，但主体建筑仍保存完好并加以利用，大门前照壁及后花园也整修如新。1938年1月济宁沦陷，日伪当局在这里设置“济宁县新民会”。抗日战争胜利后由中国驻军。1948年7月济宁解放后，部分房舍被市民占用改建，中心部分由人民政府设立为“敬老院”。
临清卫署。全称“临清卫守备署”。明清时期，凡重要城镇，边防要地，均设卫镇守。一般是一地设一卫，而济宁却一直同时设两个卫，是全国少有的。两卫拥兵11200名，加上河标各营及卫标亲从，济宁驻军数万人。明初设济宁左卫、济宁卫。明景泰元年（1450年），济宁左卫调临清，改称临清卫，屯田及屯田军仍坐落和驻防在济宁州境，共四十屯。清初，“裁卫设县”，有着漕运职责的济宁卫、临清卫、任城卫等仍保留其建制。临清卫署址原在城内院门口路北，后移至东南隅临清卫胡同路北，清代后期迁至东北隅邵家街，清光绪时裁撤。原基址现为济宁军分区南院北部及附近的居民楼。
泉河通判署。地址在济宁古城内邬家街北首路西。中华人民共和国成立后，此处设置济宁市立医院。1966年之后，原有房舍逐步拆除改建，旧迹全无，邬家街亦不存在。原基址现为济宁医学院附属医院西北部分。
任城闸厅。地址在城外东南关的老运河西岸，大门正对小闸口旧桥，规模不大，仅有两进院落，房舍约20间。该官厅后部的小巷，名为“闸厅后街”。任城闸官官阶从七品，是清代乾隆时设置的，负责管理济宁城区范围内的运河水闸和桥梁，隶属运河道台节制，清光绪时裁撤。民国时期，在此设置“济宁县警察局第三分驻所”。抗日战争胜利后驻军。1948年7月济宁解放后，曾设煤炭供应点。1965年拓宽街道时拆除。
除上述部分署衙外，抚按察院署在今济宁察院街；布政司行台在总河院署西；布政分司在原州治东；按察司行台在州治东；巡漕使院开衙南池，后迁草桥口；工部分司在普济堂；管河州判署在州治东夹道东。
