2007年9月，济宁市第三次全国文物普查领导小组成立，文物普查工作正式启动。文物普查包括田野调查、资料整理，历时3年，先后有220人参与。共登录不可移动文物点4479处，其中，复查文物点1031处，新发现文物点3448处，为掌握全市不可移动文物的数量、分布、特征、保护和环境等基本情况，制定文物保护规划和措施奠定了基础。新发现的3448处不可移动文物，按照国家普查办的统一要求，分为古遗址、古墓葬、古建筑、石窟寺及石刻、近现代重要史迹及代表性建筑等5大类。
古遗址
境内遗存有大量古遗址，已发掘并且有重要学术价值的有汶上贾柏、兖州王因、任城区安居镇玉皇顶、曲阜西夏侯、邹城野店、泗水尹家城、兖州西吴寺、兖州六里井、微山尹洼等原始社会遗址及周代曲阜鲁国故城、邹城邾国故城等。第三次全国文物普查又新普查出273处古遗址，主要有聚落遗址、城郭遗址、窑场遗址、矿冶遗址、军事设施遗址、水利设施遗址、寺庙遗址和其他遗址。具有代表性的有大王庄遗址、马庄窑址、宫家村遗址、春亭遗址。
大王庄遗址 位于曲阜市南辛镇大王庄村东，平原遗址。基本呈长方形，东西长120米，南北宽100米，面积约1.2万平方米。该遗址应为新石器时期至周、汉时期的聚落遗址，由于未经发掘，文化层厚度、包含物不详。
马庄窑址 位于曲阜市防山乡马庄村东，大庙村南300米处。遗址地势平坦，大致呈长方形，东西长约60米，南北宽约100米，面积约为6000平方米。地表遗留丰富，采集到的标本有罐、盆、壶等器物残片。此处原为一瓷窑址，年代为宋代。
宫家村遗址 位于曲阜市书院街道宫家村西北，平原遗址。面积约3.8万平方米，由于未经发掘，文化堆积不详。遗址地表采集到大量标本，以泥质陶为主，夹砂陶次之；陶色以灰陶为主，兼有少量褐陶；纹饰有戳点纹、附加堆纹、模印纹、素面及绳纹等，尤为难得的是从遗址上采集到一灰陶盘口沿残片，浅刻“王商□”隶体字样，这是在鲁国故城外首次发现汉代陶文，推断应为制陶工匠的题记。该遗址年代为商、周，并延续到汉代。保存较为完好，它的发现对了解本地区商、周、汉时期文化聚落分布、区域类型、文化谱系等提供了资料。
春亭遗址 位于曲阜市姚村镇春亭村西北2公里处。遗址地势略高，俗称“高岗子”，基本呈长方形，面积2.93万平方米，文化层堆积厚约1米左右。地表暴露的遗物较为丰富，采集到的标本有陶质罐口沿、盆底，瓷质碗底、绿釉高颈罐口沿、酱釉开口杯等器物残片。该遗址应为唐、宋时期遗址。
2008年2月25日，济宁市第三次全国文物普查培训班举办。
古墓葬
境内发现古墓葬197处，其中以平民墓为大宗，也有封王、官吏、名人墓葬。
黄山古墓 位于曲阜市董庄乡黄山西南坡，当地村民俗称“王林圈”。墓冢已塌陷，直径约10米，面积约为15平方米，墓冢南20米有享殿基址，地面散落有大量的砖石等建筑构件。墓冢周围有围墙基址，墙基宽0.8米，呈不规则矩形，东西长150米，南北宽50米，面积约7000平方米。南围墙基址中部有墓门基址。根据其形制结构与文献资料判断，该墓应为明代一藩王墓葬。
薛庄墓群 位于微山县夏镇薛庄东，西为薛庄，南为齐楼，东为殷庄，北抵连通薛庄与殷庄的一条水泥路。该墓群南北宽300米，东西长310米，面积9.3万平方米，为商周、汉代时期古墓葬。墓群中间是人为取土形成的大坑，坑壁悬挂有残墓。1998-1999年，村民挖土时曾发现一批墓葬，有商周时期土坑竖穴墓和石椁墓，其中西汉王莽时期的一墓椁，长1.9～2.1米，宽0.9米，高0.7米左右，出土了铜镜、“大泉五十”铜钱、“货泉”铜钱、带钩、铁剑、铁刀和玉塞、玉蝉等。
陆庄墓群 位于梁山县拳铺镇陆庄村东部，占地4.07万平方米。2006年，市文物局考古研究室对墓群西北部进行发掘，出土大量陶器、钱币、瓷器、画像石等。该墓群为汉代至隋代的墓葬群。
鲍林墓群 位于兖州市新兖镇鲍林村西北一坑中，坑约3000平方米。此墓群发现大量墓室、墓石，墓椁均为糯米汁拌石灰砌成，地面分布有大量陶器残片。该墓群为明代墓群。
古建筑
济宁市境内古建筑存量居国内地市级之首，主要有孔庙、孟庙、颜庙、曾庙、尼山孔庙、仲子庙、伏羲庙、周公庙、铁塔寺、东大寺、孔府、孟府、柳行东寺、洙泗书院、青山寺、石门寺等大中型建筑群，太白楼、卞桥、金口坝、大运河济宁段、孟母三迁祠、吕家宅院、郑氏庄园、岳氏家祠、潘家大楼及砖塔、牌坊、古桥、分散性庙祠、民居等重要建筑遗存，总计3000多间。在文物普查期间，普查队对市内古建筑重新清点，新发现811处。建筑类型主要是城垣城楼、宫殿府邸、宅第民居、坛庙祠堂、亭台楼阙、寺观塔幢及桥涵码头等古代建筑，新发现的6例典型代表。
房头北寨门 位于微山县两城镇房头北村北部，一条南北向进村公路从门下穿过。寨门有南北两个拱门，北门上部刻有“大义凛然”四字，题于康熙甲子年（康熙二十三年，1684年），tt南门上部刻有“砺带山湖”四字，没有题写年代。寨门下部仍然保持原貌，墙体用尺寸不一的长方体石块砌成，拱门内用青砖铺顶，东西长约9.80米，南北宽约7.90米，面积约77.42平方米。寨门上部的房屋应为建国后所建，硬山顶，东墙上部有五角星图案。
皇宫所 位于微山县南阳镇，为清代建筑。皇宫所原为皇帝巡行时处理事务的场所，面阔9.6米，进深6.4米，面积约61.44平方米。砖砌墙，正脊完整，小瓦覆顶，前出厦宽约1.4米，有两根圆形柱基。另外，前出厦上有3个龙头碑帽，雕刻精美。
池涯吴氏民居 位于曲阜市鲁城街道池涯居委五马祠街中段。始建于清乾隆年间，为清道尹吴廷玉住宅，四合院式建筑，前后两进院落，后院有一老海棠树。第一进院落前房面阔3间，进深3间，前有廊，灰瓦覆顶，西厢房3间，面貌已基本改变。第二进院落现存后堂，面阔3间，前有廊；西侧紧邻堂楼（绣楼）1间，两层，灰瓦覆顶，筒瓦扣花屋脊，木棂窗；东厢房3间，灰瓦板瓦覆顶，其原貌及布局基本未变。
独山三官庙 位于梁山县风景区独山村东北部。始建于明隆庆三年（1569年），祠堂分大门、院落和正堂。大门和院落为复建，原有建筑现仅存正堂3间，龙柱2根，龟座1通。正堂坐北朝南，占地面积200余平方米，砖木结构，木质门窗，四梁八柱，内供有尧、舜、禹三官塑像。正堂前厦内有龙盘柱2根，青石质，立于门的两侧，雕饰有云龙、人物、鸟兽等图案，做工精细，形象逼真。柱高3.1米，直径0.45米，柱与柱之间为3.4米。前出厦宽1.6米，长11米。房屋脊兽文革期间被毁，灰瓦覆顶，屋檐周围补配有红瓦。正堂面阔11米，进深6.6米。三官庙院落两边原有厢房和碑刻以及石仪，1966年被毁。2001年村委会按照原貌进行了维修。
峄山白云宫建筑群 位于邹城市峄山镇峄山之上。原称白云观，北宋元祐三年（1088年）改称白云宫，主要包括玉皇殿、三星殿、文昌殿、泰山行宫、魁星阁、钟楼、鼓楼、凌霄坊和宝玉坊等建筑。由于历史原因，白云宫多数建筑被毁。2007年后，邹城市政府把白云宫恢复工程列为峄山重点建设项目，拨出专款，对其主要建筑实施原状恢复，使其成为峄山的重要旅游景点之一。
石窟寺及石刻
市境内遗留有丰富的石刻，主要分布在嘉祥、微山、邹城、济宁城区，多是牌坊、桥梁、碑刻、汉代画像石、经幢、摩崖、立体雕像等，凡能人藏的，大都由各级文博机构进入馆藏，加以保护。在文物普查中新发现各种碑刻、石雕达1594处，有重要价值的4处。
次丘江流寺石刻群 位于汶上县次丘镇粮所院内。该石刻群现存石经幢1件、建筑构件2个、重修江流寺碑3通。石经幢高2.35米，八棱形，上部直径0.44米，下部直径0.55米。3通碑分别为清康熙三十一年（1691年）、清雍正十二年（1734年）、清嘉庆七年（1802年）所立。碑文内容主要记载了重修江流寺的情况。
重修邹县城碑 位于邹城市千泉街道南关社区旧县城南门口。通高2.52米、宽0.95米、厚0.28米，碑额上刻“皇清”二字及双龙戏珠浅浮雕。碑文隶书，11行，每行48字。前题“重修邹县城碑记”，后署“大清同治九年（1870年）庚午阳月谷旦立”。碑文记载了邹县旧城自刘宋元嘉始建迄至明清以来的建制、维修、地震灾异及清末捻军、白莲教农民起义的有关历史。
河口古桥碑刻 位于曲阜市姚村镇河口村村内，原立于古龙湾桥旁，今位于泗河北岸200米处。古桥历经数次修建，立碑数块，现仅存清康熙三十五（1696年）所立龙湾板桥碑、清咸丰六年（1856年）所立广济桥碑、清光绪年间所立碑刻、民国二十六年（1937年）所立重修龙湾广济桥碑，碑刻均记述了四里乡邻捐钱捐物修桥之义举。此组碑刻的发现为研究该地区的河流变迁、交通状况及历史人文面貌等提供了丰富的实物资料。
东终吉石经幢 位于曲阜市息陬乡东终吉村。石经幢刻于金承安二年（1197年），原立于观音庙内。经幢前置一香炉，通高1米，通宽0.6米，四面分别浅刻普贤菩萨、文殊菩萨、地藏菩萨、观音菩萨画像。刻工精细，人物栩栩如生。经幢左侧落款“时承安二年旬九月宣圣四十八代孔锜立石”，右侧题“时康熙三年二月十一日重修”。该经幢是宋金石经幢巅峰时期的典型作品，为研究金代佛教历史提供了重要的参考资料。
近现代重要史迹及代表性建筑
近现代时期的济宁，既有农民起义活动、外国殖民主义入侵的见证，又有中华人民共和国建立后的遗存。
兖州天主教堂 位于兖州城内，德国哥特式建筑。1891年，德国圣言会传教士进入兖州，1898年开始营建兖州天主教堂，翌年建成21米高的大圣堂，后鲁南教区迁于此。天主教堂从1898年开始营建，到1948年兖州解放前夕，经过50年的增修扩建，共建房718间，其中楼房286间，平房432间，购征土地1400多亩。外国传教士退走后，区内建筑渐遭破坏，今保存有主教楼、修女楼等建筑。
姚村火车站 位于曲阜市姚村镇。1912年建成投用，原是津浦铁路（今京沪铁路）线上的重要车站，建筑二层楼体，具有欧式建筑的特征，由德国工程师设计。抗日战争期间二层被毁，后改建为一层，仍保持了原有的建筑风格。
石墙双庆扬水站 位于邹城市石墙镇，南北向邹滕公路从扬水站东部穿过，东西均有水渠相连。双庆扬水站，又称一级提水站，兴建于邹西会战，1977年建成使用，是湖水东调工程的重要组成部分，也是邹城市境内提水流量最大的扬水站。装机容量8台1440千瓦，扬程13米，提水量8.5立方米每秒。国家领导人李先念、纪登奎、陈永贵、华国锋等先后到该站视察指导，灌渠上至今仍留存领导人题词。该扬水站由机房及干渠等组成，泵房占地数间，高约8米，房南由8根粗大的铁质排管通联干渠。干渠为石砌，东西走向，邹滕公路南北向穿截而过。公路两侧墙上均有题字，西墙为“高山顶上修条河，河水哗哗笑山坡，昔日在你脚下走，今日从你头上过。录灌区民歌一首——华国锋”；墙南面署“七七年兴建”；北面书“手牵湖水上高山”；东墙标语为“水利是农业的命脉——毛泽东”，墙南面题“双庆扬水站”。2010年，该扬水站及水渠仍发挥着重要作用。