泰安的地质为太古界泰山群，已有25～34亿年的高龄，是地球上最古老的杂岩之一。其地层属华北地台典型基底和盖层的双层结构，历经了各个地质时代的变迁。泰山岩群中的科马提岩，是迄今中国唯一公认的具有鬣刺结构的太古宙超基性喷出岩，有极高的科学研究价值。太古宙～古元古代的侵入岩是泰山分布最广的地质体；中元古代辉绿玢岩中发育的国内外罕见的“桶状结构”，不仅有很高的科学研究价值，也有很高的观赏价值。因此，泰山是研究我国古老陆台形成的窗口，是探索地球早期历史奥秘的实验室，已成为太古宙～古元古代地球演化历史阶段的代表性模式。泰山西北张夏古生代寒武纪，浅海沉积形成的华北标准剖面，是我国区域地层对比和国际寒武纪地层对比的主要依据。泰山的新构造运动非常普遍而强烈，在其影响下，侵蚀切割作用也十分强烈，地形起伏大，地貌类型多，构成了泰山雄、奇、险、秀、幽、奥、旷兼而有之的综合景观。2005年，地质学家又在山上山下发现200万年前的第四纪冰川遗址——冰臼，推翻了我国东部海拔2500米以下无冰川的定论。总之泰山地区是天然的地质博物馆和地质大百科全书。
泰安的地貌以丘陵、山地为主。丘陵多分布于新泰西南部、宁阳东部、岱岳区和东平北部，海拔一般在120～400米之间；山地集中于境内北部和东部，海拔一般在400～800米之间，其中500～800米的山峰有57座，超过800米的有22座。由此形成泰安境内峰峦迭起，河川纵横，泉溪争流，湖泊湿地和人工水库星罗棋布。
泰山拔地通天。主峰玉皇顶雄踞于泰城以北，海拔1532.7米，为山东省第一高峰。其峰峦突兀，基础宽厚，雄丽多姿，具阳刚之美，自古被誉为“五岳独尊”。当代为中国首批“世界文化与自然遗产”和“五A级风景区”及“世界地质公园”。它是中华民族的象征，中国历史文化的缩影。
泰山脚下还有古帝王禅地的蒿里山，道家称谓“魂归蒿里”的阴曹地府；有黄帝祭地的亭亭山；有隋文帝设坛祭青帝的小金山；有国家级森林公园徂徕山。新泰境内的国家级森林公园莲花山，又称新甫山，上有秦皇汉武行宫遗址，又有秦汉“活神仙”安期生祠；有孔子赋《龟山操》、《春秋》鲁定公十年（前500）“齐人来归龟阴之田”的龟山；有孔子作《邱陵歌》、诸葛亮好为《梁父吟》的梁父山；那孤耸傲立的嶅山，顶有奇异的晚间自然幻影——“嶅山神灯”，似万家灯火闪烁着五彩缤纷的光芒；有天然的奇石园林寺山，上有传为龙女牧羊时留下的“羊蹄峪”。
肥城有春秋越国大夫范蠡“浮海出齐止于此”的陶山，传为72洞洞洞有妖精，36峰峰峰见神奇；有隋唐时即先后建有云阳庵、大云寺的布山；有孙膑隐居学习的云蒙山，孙膑万米寨墙，孙膑手植檀，孙膑洞历历在目；有宋真宗东巡时曾赐名“郁葱山”的省级森林公园金牛山，其“牛山叠翠”、“龙沼春霖”为著名古代景观。
宁阳的神童山，顶有远古先民构筑的石圈、石障、祭坛等宗教遗址。山下为四岁让梨、七岁举孝的孔融和五岁能诗、十岁能文的“建安七子”之一的刘桢及现代神童两岁学书、三岁获全国大奖、四岁出个人专集的东方奇才陈晓彦等人的出生地。
东平有白佛山，其石窟造像群，为国家级重点文物保护单位；有素称“山奇雄、峰奇秀、岩奇险、石奇美”的小泰山——腊山国家级森林公园；有水浒英雄初聚义的司里山；有伏羲太昊后裔古须句国曾在此设置营造建筑的六工山。
泰安境内河流主要有大汶河、黄河与京杭大运河东平段、大小汶河（包括支流泮汶、石汶、牟汶、瀛汶、柴汶）、大小清河以及康王河、汇河、漕河、平阳河、洸河、泉河、宁阳沟等。分属黄、淮两大流域：北部大汶河水系属黄河流域；南部泗河、洸河水系属淮河流域。大运河俗称运粮河，是世界上开发最早、河道最长的人工河，始于春秋末吴王夫差时，至元代南北贯通，为国家重点文物保护单位。其东平段全长30公里，为漕运要枢，历时600余年。汶河支流小漕河引汶灌溉工程，是继秦李冰父子都江堰之后的又一古代杰作。《史记·河渠书》：“用事者争言水利……泰山下引汶水。皆穿渠为溉田，各万余顷。佗（负荷）小渠披山通道者，不可胜言。”《水经注》：“汶水又西南，经亭亭山东，黄帝所禅也。山有神庙，水上有石门（水闸——引者注），旧分水下溉处也。”另外，元代曾在汶河设闸截流，由洸河水注入大运河。
泰安三大湖泊和沼泽湿地均集中于东平境内：东平湖为“八百里水泊梁山”的仅存水域，古属大野泽，亦称巨野泽，是山东省第二大淡水湖，为滞蓄黄河之水的大型天然水库，省级风景名胜区；稻屯湖位于大清河北，是滞蓄东平湖和大清河水的蓄水湖；州城湖位于东平南部。三湖水面总面积为1.55万公顷。
泰安的大小水库上千座，或为山中平湖，或为平原明镜，各有千秋，多已开发为旅游休闲胜地和别墅区。
泰安境内山脉因花岗岩地质构造，以太古界岩层的裂隙发育及寒武——奥陶地层受基岩之阻而形成了大量的裂隙泉、温泉、上升泉。其泉水为“低矿化度低纳中性”，含有对人体有益的多种矿物质和微量元素锶、锌、铁、钴、钼、镍、铬、钒、硒、氟等，为天然优质矿泉水。所以古称泰安为“神州”，泰山、泰安的泉水为“神水”。如泰山三大名泉之一的中天门玉液泉水，在民国初年医学家高宗岳的《泰山药物志》中列为“泰山十二大名药”之一，称“常饮寿八旬，行如壮年”；岱顶神泉、福泉，汉官马第伯《封禅仪祀》云“饮之极清美利人”；水帘泉为《西游记》中水帘洞的创作原型；两个明堂泉分别为周成王和汉武帝东封泰山时的明堂故址；岱岳区上泉的古泉群为乾隆南巡时赞之“上乘之泉水”，清孔尚任曾隐居于此著书立说；构沟温泉在唐代《封氏闻见记》中称“海内知名温汤共八处”，其一为“兖州乾封汤，能愈疾”即此；新泰盗泉先秦时《尸子》曾记：“孔子至于暮矣而不宿于盗泉，渴矣而不饮，恶其名也”；楼德南泉群，古称菟裘泉，为历代王公贵族所向往。