古遗址包括历代古国、郡县故城、村居、工程设施等遗存。已发掘并且有重要学术价值的有：汶上贾柏、兖州王因、任城区安居镇玉皇顶、曲阜西夏侯、邹城野店、泗水尹家城、兖州西吴寺、兖州六里井、微山尹洼等原始社会遗址，及周代曲阜鲁国故城、邹城邾国故城等。中国社会科学院考古研究所山东考古队在济宁调查时，于汶上、兖州、嘉祥三县发现细石器（又称中石器）地点38处，并采集到一批标本，其年代距今1万～1.4万年，将济宁历史的起源往前推进了数千年。
表31-5-1 济宁市细石器文化遗址一览表
┏━━━━━━━━━┯━━━━━━━━━━━━━━━━━┯━━━━━━━━━━━━━━━━━━━━┓
┃ 序号 │ 遗址及地点 │ 位置 ┃
┠─────────┴─────────────────┴────────────────────┨
┃汶上县（28处） ┃
┠─────────┬─────────────────┬────────────────────┨
┃ 1 │ 东岗地点 │ 白石乡西岗村东 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 2 │ 齐村地点 │ 苑庄镇齐村东北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 3 │ 齐村地点 │ 苑庄镇齐村西南高地 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 4 │ 大秦西地点 │ 苑庄镇大秦村西高台地 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 5 │ 官庄地点 │ 苑庄镇官庄东南沙场 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 6 │ 周村地点 │ 苑庄镇周村东南高地 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 7 │ 大秦地点 │ 苑庄镇大秦村东北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 8 │ 后小秦西北地点 │ 苑庄镇后小秦村西北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 9 │ 后小秦地点 │ 苑庄镇后小秦村东南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 10 │ 前小秦地点 │ 苑庄镇前小秦村北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 11 │ 高村地点 │ 苑庄镇大高村北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 12 │ 东贾柏地点 │ 苑庄镇东贾柏村东北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 13 │ 东贾柏西北 │ 苑庄镇东贾柏村西北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 14 │ 西贾柏地点 │ 苑庄镇西贾柏村西北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 15 │ 西贾柏东南 │ 苑庄镇西贾柏村东南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 16 │ 齐村窑厂 │ 苑庄镇齐村窑厂 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 17 │ 贾柏遗址 │ 苑庄镇东贾柏村东南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 18 │ 高村西南 │ 苑庄镇大高村西南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 19 │ 东贾柏西南 │ 苑庄镇东贾柏村西南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 20 │ 南关地点 │ 汶上县师范路北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 21 │ 辛庄地点 │ 义桥乡辛庄西 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 22 │ 南沟地点 │ 苑庄镇西贾柏村南沟 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 23 │ 所庄地点 │ 义桥乡所庄村东 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 24 │ 岗子地点 │ 南站镇岗子村周围 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 25 │ 李街地点 │ 南站镇李街东南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 26 │ 冯庄地点 │ 南站镇冯庄村东 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 27 │ 路林 │ 汶上镇路林村西南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 28 │ 王鲁庄 │ 南站镇王鲁庄村东南 ┃
┠─────────┴─────────────────┴────────────────────┨
┃兖州市（10处） ┃
┠─────────┬─────────────────┬────────────────────┨
┃ 1 │ 北西地点 │ 小孟乡北安村西 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 2 │ 西桑园遗址 │ 小孟乡西桑园村西 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 3 │ 后楼地点 │ 漕河乡后楼村西北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 4 │ 后邴地点 │ 漕河乡后邴村南 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 5 │ 韩马地点 │ 新驿镇韩马村东 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 6 │ 店子街地点 │ 新驿镇店子街村东 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 7 │ 李村地点 │ 新驿镇李村东北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 8 │ 李村东北 │ 新驿镇李村北50米 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 9 │ 新驿地点 │ 新驿镇新驿二村北 ┃
┠─────────┼─────────────────┼────────────────────┨
┃ 10 │ 东葛后地点 │ 谷村镇东葛店村东 ┃
┠─────────┴─────────────────┴────────────────────┨
┃嘉祥县（1处） ┃
┠─────────┬─────────────────┬────────────────────┨
┃ 1 │ 李河沟遗址 │ 嘉祥镇李河沟村东邻 ┃
┗━━━━━━━━━┷━━━━━━━━━━━━━━━━━┷━━━━━━━━━━━━━━━━━━━━┛
贾柏遗址
地处汶上县城东2公里东贾柏村东的高地上。遗址东西长约300米，南北宽约50米，总面积15000平方米。1989年春至1990年春，中国考古研究所山东队进行了两次发掘。清理墓葬19座，发现房址10处，出土了打制石器、磨制石器、陶、角骨器等文物一批。由此确认，这里是以北辛文化为主的古村落遗址，距今7000年左右。遗址周围还采集到部分细石器，这当是更早人类的文化遗存。2006年，贾柏遗址被公布为全国重点文物保护单位。
尹家城遗址（2008年6月摄）
王因遗址
位于兖州市西南10公里的王因村南，长宽各约300米，总面积达9万余平方米。为一处新石器时代的文化遗址，主要为大汶口文化遗存，并有北辛文化地层。1975-1978年，由中国社科院考古所山东队与济宁文物局合作对此遗址共进行了7次发掘，揭露面积1.08万平方米，清理墓葬899座，出土了一大批文物。王因遗址的发掘资料，对研究北辛文化和大汶口文化的传承关系和大汶口文化早期社会性质，是一批可作依据的材料，具有重要的科研价值。2006年，被公布为全国重点文物保护单位。
尹家城遗址
位于泗水县金庄镇尹家城村西南，是一处高出地表10余米的城堡式三层高台，面积约4200平方米。遗址内涵丰富，文化层堆积厚，主要为龙山文化、岳石文化，并有大汶口、商周两汉及唐宋时代的文化遗存。1973-1986年，山东大学考古系对该遗址进行过五次发掘，发现有灰坑、房址、墓葬、水井等不同时期的遗迹。出土石、玉、陶、铜、铁、瓷、骨角蚌类等器物4000余件。尹家城遗址是一处典型史前文化遗址，在学术界知名度较高，对于学术研究具有重要价值，现为省级文物保护单位。
王因遗址发掘现场（20世纪70年代摄）
曲阜鲁国故城
曲阜鲁国故城遗址位于曲阜明代县城的叠压处及北、东部，略呈扁方形，东西约7华里，南北约5华里，周长24华里，占地面积1.5万亩。故城的北、东、南三面尚存有残垣，长达数公里，最高残墙高7米左右。
公元前11世纪，周武王“封周公旦于少昊之虚曲阜，是为鲁公”。周公姬旦因留在京城辅助周成王，其子伯禽代父就封，至公元前249年鲁国被楚灭掉，共传34世，历800余年，这座城直到汉唐仍被使用。1977-1978年，经国家文物局批准，对曲阜鲁国故城遗址进行了大规模的考古钻探和试掘。通过勘探得知，鲁城有城门11座，始建于西周。
2012-2013年，在周公庙高台地宫殿区勘探中发现了内城。这样，鲁故城遗址上现已知有周代鲁国都城（郭城，即外城）、内城、汉代鲁县城、明代曲阜县城四座。鲁故城内外居民区密布，中偏北为宫殿区，西北部为墓葬区，宫殿区后部为市井区，市井区的东西部为冶铜、冶铁、制陶、制骨作坊区，城内还遗留着当时的供水排水沟渠、管道。考古发掘中出土了一大批珍贵文物，包括陶瓷、铜器、玉石以及金银、骨、角、牙、蚌器等。其中玉马、玉璧、铭文铜器、银猿带钩等，制作精美，年代确切，是研究当时社会状况的宝贵资料。1961年，曲阜鲁国故城遗址被国务院公布为全国重点文物保护单位。
曲阜鲁国故城（2009年4月摄）
邹城野店遗址（2008年6月摄）
邾国故城
邾国故城位于邹城市东南10公里的峄山之阳，为春秋时期邾国都城。《左传》载：“文公十三年，邾文公卜迁于绎”，即鲁文公十三年（前615年），邾文公在峄山之阳建立了邾国国都。北齐天保七年（556年），邹县治所由此迁到铁山之阳后，故城才逐渐荒废。邾国故城，自春秋建立，至北齐迁走，共使用了1100年，是一座历史悠久的古城。1964年，中央考古所山东队在当地文物部门的配合下曾做过调查，2012年10月至翌年6月，省文物部门又聘请洛阳古韵钻探公司对故城进行了普探，从而知悉邾国故城遗址总体近似长方形。实地测量，故城周长9200多米，遗址以北墙为界，分为南、北两部分，南区为都城，北区为陵园，陵园即国君与亲贵的专用墓地。都城的中北部是宫殿区，村民俗称为“皇台”。西南部的金庄一带为作坊区。邾国故城内出土过铜器、陶器等文物，尤其出土的周秦陶量及东周、秦汉时期的各类陶文数千件，在古文字演变史和邾国发展史研究中具有极其重要的意义。2006年5月，被国务院公布为全国重点文物保护单位。
邹城野店遗址
野店遗址位于邹城市城南4公里处，峄山镇野店村南。这里属于峄山之阴的岭地上，遗址较为平缓，东南部为古河道。1971-1972年，省博物馆在县级文物部门的配合下进行考古发掘，2012年冬及翌年春，当地又聘请洛阳古韵考古钻探公司进行普探。查知遗址分为东西两区，东区东西长450米，南北宽约330米，总面积12.5万平方米，时代为大汶口文化早、中期；两区的中线由壕沟分开，西区以环壕村落遗存为特色，南北最长410米，东西宽300米，总面积10万平方米，为大汶口文化晚期及龙山文化、周代文化遗存。西区清理出大汶口文化房基6座，其1座为龙山文化；东西区均置墓葬区，共出土墓葬89座，发现陶窑2座，出土了一大批陶、石、骨、蚌、角牙制品。该遗址是境内一处以大汶口文化为主的典型遗址，其考古成果曾佐证了母权制向父权制的过渡及社会形态的发展。