济宁市古建筑数量众多，位居全国地级市前列。主要有孔庙、孟庙、颜庙、曾庙、孔子出生地尼山孔庙、仲子（子路）庙、伏羲庙、周公庙、铁塔寺、东大寺、孔府、孟府、柳行东寺、洙泗书院、青山寺、石门寺等大中型建筑群，以及太白楼、卞桥、金口坝、大运河济宁段、孟母三迁祠、吕家宅院、郑氏庄园、岳氏家祠、潘家大楼及砖塔、牌坊、古桥、分散性庙祠、民居等重要建筑遗存，总计3000多间。另外，汶上太子灵踪塔于1994年出土了佛牙舍利，兖州兴隆塔于2008年出土了释迦真顶骨舍利、牙舍利、《舍利安葬碑》，金乡光善寺塔于2009年出土了牙舍利、22件唐代银器，济宁铁塔于1973年出土了舍利棺、铜佛等。
孔庙
曲阜孔庙，位于曲阜城的中央，是祭祀孔子的庙宇，为海内外现存2000多座孔庙中规模最大的一座。1961年3月4日被国务院公布为全国重点文物保护单位，孔庙始建于孔子死后的第二年（前478年），弟子们将其生前“故所居堂”立为庙，“岁时奉祀”。其后，历代王朝不断加以扩建，因汉代起祭祀孔子列入国家祀典，孔庙由国家进行维修。至明代已奠定了现有规模，形成了一组具有东方建筑特色、规模宏大、气势雄伟的古代建筑群。
孔庙占地147亩，南北长642米，庙内古木苍翠，穿插有序。建筑仿皇宫之制，共分九进庭院，三路布局，贯穿在一条南北中轴线上，左右对称，布局严谨。孔庙的第一道门为“棂星门”，门两侧为下马碑，碑阳大字书“官员人等至此下马”。前三进是引导性庭院，只有一些门亭石坊，院内遍植桧柏，浓荫蔽日，第四进以后的庭院，建筑雄伟，气势壮观，是孔庙祭祀活动的主要场所。整个建筑群包括五殿、一阁、一坛、两庑、两堂、17座碑亭，再加门坊共412间，分别建于金、元、明、清和民国时期。
孔庙还是全国著名的“碑林”，保存有汉代以来历代碑刻千余块，既有封建帝王追谥、加封、祭祀和修建孔庙的实录，也有达官显贵、文人学士谒庙的诗文题记，文字有汉、蒙古、八思巴、满文等，真草隶篆，蔚为大观，是研究封建社会政治、经济、文化、艺术的珍贵史料。孔庙的石刻艺术品还包括历年收藏的汉画像石90余块，以及反映孔子一生行迹的120幅石刻“孔子圣迹图”。
孔府
孔府位于曲阜城中，孔庙东邻，本名衍圣公府，是孔子嫡长孙居住的府第。“衍圣公”是北宋至和二年（1055年）宋仁宗赐给孔子46代孙孔宗愿的封号，这一封号子孙相继，整整承袭了32代，历时880年。
孔子的嫡系长支为奉祀孔子，多住在阙里故宅，称袭封宅，后来晋升为公爵，才有较大的府第。今孔府即明代洪武年间重建的，清代又进行了多次增建，从而达到现在的规模。孔府占地面积约180亩，共有厅、堂、楼、房等建筑560间，三路布局，九进院落。东路即东学，建有一贯堂、慕恩堂、孔氏家庙及作坊等；西路即西学，有红萼轩、忠恕堂、安怀堂及花厅等；孔府的主体部分在中路，分前后两大部分，前为衙署，后为内宅，最后是花园。孔府内保存了大量的珍贵文物、资料，从封建王朝所赐帝后墨宝、御制诗文、儒家典籍、礼乐法器、文房四宝，到衍圣公着意收藏的孔子画像、元明衣冠、玉瓷古玩等等，藏品达10万余件。其中最驰名的文物还属明清文书档案6万余件，是中国数量最多、时代最久的私家档案。孔府1961年被国务院公布为全国重点文物保护单位。
孟庙
孟庙，又称亚圣庙，位于邹城市区南部，是历代祭祀孟子的庙宇。北宋景祐四年（1037年），孔子四十五代孙孔道辅守兖州，始于邹城东北30里四基山之阳访得孟子墓，并在墓旁创建孟子庙。元丰八年（1085年），迁建于县城东郭。宣和三年（1121年），迁建于现址。经宋、元、明、清历代重修扩建，至清康熙五十四年（1715年）形成目前规模。
孟庙平面呈长方形，现占地约2.4万平方米，前后五进院落，以主体建筑亚圣殿为中心，南北作中轴对称式配列，前三进建筑主要有棂星门、亚圣庙坊、泰山气象门、省牲所、祭器库、康熙碑亭。自第三进院落起分为左、中、右三路布局：中为承圣门，内有亚圣殿、寝殿、两庑、天震井、乾隆碑亭；东为启贤门，内有启圣殿、启圣寝殿；西为致敬门，内有致严堂、祧祖祠、焚帛池。整个建筑群包括四殿、两庑、一堂一祠、一库一所、两座碑亭、四座木坊、一座石坊。孟庙内保存有历代碑刻280余块，各种古树近300株，大多栽种于宋元时期。1988年，孟庙被国务院公布为全国重点文物保护单位。
孟府
孟府，又称亚圣府，位于邹城市区南部，东与孟庙为邻，是孟子嫡系后裔居住的地方，据考，始建于北宋末年。明景泰二年（1451年），皇帝赐孟子56代孙孟希文世袭翰林院五经博士后，孟府又称博士府。1935年，南京国民政府封孟子73代孙孟庆棠为亚圣奉祀官，至此世袭翰林院五经博士这一封号整整承袭了18代，历时484年。
孟府平面呈长方形，面积约2.1万平方米。前后七进院落，布局严谨，依次建有大门、礼门、仪门、大堂、世恩堂、赐书楼、上房院、缘绿楼、后花园等，有厅、堂、楼、房亭、门共计210余间。主体建筑分布在中路，前为官衙，后为内宅，是目前保存较为完整的贵族府第。1988年，孟府被国务院公布为全国重点文物保护单位，2006年12月，作为“三孔”扩展项目入选《中国世界文化遗产预备名单》。
颜庙
颜庙位于曲阜城内，是祭祀孔子弟子颜回的庙宇。颜回，字子渊，因他学到了孔子思想的真谛，被后人推崇为家贫好学的典型。元文宗至顺元年（1330年）被加封为兖国复圣公。至此，颜回便被尊称为复圣，颜庙又被称为复圣庙。
据《陋巷志》记载，在陋巷故址上建庙，是从汉高祖刘邦东巡过鲁祭孔同时祭颜子祠开始的，后经唐、宋、元、明、清各代重修扩建，到明万历二十二年（1594年）颜庙即达现存规模：占地35亩，殿、堂、亭、库、门、坊等159间，前后五进院落，分中、东、西三路。颜庙内碑碣林立，古树参天。颜庙主要建筑有复圣殿、寝殿、两庑、杞国公殿、退省厅、乐亭、陋巷井亭、正德碑亭、正统碑亭、复圣门、归仁门、仰圣门、克己门、复礼门、博文门、约礼门、杞国公门、见进门、复圣庙坊、卓冠贤科坊、优入圣域坊、陋巷坊等。颜庙于2001年被公布为全国重点文物保护单位，并于当年列入“三孔”世界文化遗产扩展项目预备名单。
曾庙
位于嘉祥县城南23公里的满硐乡南武山南麓，是祭祀曾子的地方。曾子，名参，字子舆，是孔子的著名弟子，孔子学说的正宗传人，以孝行称著，元至顺元年（1330年），文宗皇帝追封曾子为“郕国宗圣公”，被尊为“宗圣”“孝圣”。
曾庙最早建于周考王十五年（前426年），原名“忠孝祠”。明正统九年（1444年）重建后改称“宗圣庙”。
又经明万历七年（1579年）扩建及后世多次修缮，形成了现在的规模。曾庙坐北朝南，南北长276米，东西宽108米，占地面积29808平方米。建筑布局沿中轴线分中、左、右三路，共五进院落，重要建筑物有大门、戟门、景圣门、育英门、咏归门、慎独门、宗圣殿、寝殿、莱芜侯祠、三省堂、斋宿所、马厩、万历碑亭、乾隆御碑亭等30余座，殿、庑、厅、堂80余楹。庙内碑碣林立，古柏参天，更显肃穆壮观。2006年5月，被国务院公布为全国重点文物保护单位，同年12月，又入选为“三孔”世界文化遗产扩展预备名录，待批。2002-2004年，通过政府拨款、曾宪梓等社会贤达人士捐资，对曾庙进行了全面维修，并添设了消防设施及停车场，使这一文物景点面貌焕然一新。
泗水县卞桥（2008年4月摄）
卞桥
位于泗水县泉林镇卞桥村与泉林村之间的泗河支流上，始建于晚唐时期，金大定二十一年（1181年）重修。明万历九年（1581年）曾对部分栏板、望柱进行过补配。桥身长25米，宽7米，高6.5米，两端各有引桥。桥两侧各有14根望柱和13块栏板，栏板上刻有人物、花卉、山水、鸟兽等各种图案。桥身两端各有一对石狮相向蹲踞于须弥莲花座上。桥下中孔券顶上题刻：“卞桥镇重修石桥自大定二十一年八月一日起工，至二十二年四月八日，谨记”共31字。桥下绿水长流，清波荡漾，旧为“泗水十景”之一。该桥正处在山东中南部由兖州、曲阜通往临沂的古代要道上，保存基本完好。时代仅次于赵州桥，为保留至今最古老的桥梁之一，2006年5月被公布为第六批全国重点文物保护单位。
周公庙
即周代鲁国太庙，位于曲阜城东北500米处的高阜上，鲁国故城的东部偏北，是后世祭祀元圣周公姬旦的庙宇。《曲阜县志》记载：“武王十三年定天下，封公于少昊之墟曲阜，公不就封，留相武王。成王即位，命世子伯禽就封于鲁。”公元前11世纪，伯禽在鲁国国都中心建太庙，宋大中祥符元年（1008年）在太庙旧址建周公庙。周公庙坐北面南，为三进院落，总面积16000多平方米。庙前原有宽广的神道，长540多米，宽40多米，两侧尚存苍翠古柏。庙内有殿、亭、门、坊等21座，现存13座，57间，主要有棂星门、承德门、经天纬地和制礼作乐石坊、御碑亭、元圣殿、寝殿等建筑。庙内尚存宋元明清碑刻35通，为研究鲁国史和周公庙的沿革提供了珍贵的实物资料，其间桧、柏、楷、槐等古树庇荫，蔚为壮观。
崇觉寺铁塔
位于济宁市古槐路38号院内，群众俗称铁塔寺。史载，铁塔寺原称崇觉寺，始建于北齐皇建元年（560年）。北宋崇宁四年（1105年）徐永安之妻常氏为还夫愿，独自出资在寺内建铁塔七级未封顶，至明万历九年（1581年），济宁道龚勉又增建二级，成为九级八角楼阁式铁塔，通高22.5米，是海内现存宋元时期最高的铁塔。铁塔以生铁铸件，组合而成，中空无法攀登。寺院内原有建筑近百间，大多早年倒塌。保护区内现存大雄宝殿、声远楼、僧格林沁祠（同治四年敕建），汉碑室（民国十八年建）等建筑27间。1973年维修铁塔时，在明代增建层中发现铜佛、铜镜、敕令牌、《妙法莲花经》，在宋代塔室中出土有石棺、银匣、舍利子，现藏济宁市博物馆内。1988年1月被公布为全国重点文物保护单位。
济宁太白楼（2010年8月摄）
太白楼
位于济宁市城内运河北岸，即今太白中路路北，为纪念李白寄家任城（今济宁）的地方。据《旧唐书》《太平广记》等史籍记载，李白于唐开元二十四年（736年）迁家任城，住在这座酒楼上。因常在酒楼“日与同志荒宴”，故唐末吴兴人沈光篆书“太白酒楼”匾额，作《李翰林酒楼记》，原李白居住并经常饮酒的贺兰氏酒楼以太白楼之名传诸后世。明洪武二十四年（1391年）迁于现址，1952年又将太白楼重建。今太白楼尚存唐代以来碑刻40余块，并有《李白生平事迹陈列》。2013年被公布为省级文物保护单位。
京杭大运河济宁段
2006年5月，京杭大运河被公布为全国重点文物保护单位，主要项目包括：济宁城区段、分水龙王庙建筑群、金口坝等。济宁段京杭运河开挖于元至元十九年（1282年），穿越市境约230公里，并由济宁城穿过。兖州市金口坝与汶上县南旺的分水枢纽即运河的引泗济运、引汶济运的配套工程，在历史上均发挥过重大作用。