徂徕山处于鲁西地块鲁中隆断区徂徕山—莲花山断块凸起的西部。北为泰莱断陷盆地，南为新蒙断陷盆地，西以南北向断裂为界止于汶河东侧，东以北西向化马湾断裂与莲花山断块相邻。徂徕山是一个中新生代形成的断块凸起，由结晶基底和沉积盖层两大部分组成。结晶基底为早前寒武纪的变质表壳岩系和侵入杂岩，沉积盖层为古生界寒武—奥陶系的石灰岩和页岩，两者呈角度不整合接触，由南向北依次从老到新分布，地貌上构成一个南陡北缓的单斜断块山系。区内地质构造极其复杂，早前寒武纪的多期次岩浆活动、多期次构造变形和变质作用十分明显，使结晶基底岩系遭受不同程度的变化作用，中生代构造活跃，新构造运动普遍而强烈，它们直接控制了山体的形成及其地貌景观。
一、地层
徂徕山出露的地层，除北部山体边缘分布有部分古生界寒武—奥陶系的沉积地层外，主要是早前寒武纪晚太古代形成的变质表壳岩系泰山岩群。它的主要岩性为斜长角闪岩。其原岩为基性火山岩和凝灰岩，经角闪岩相区域变质作用而形成的沉积变质岩。同位素年龄为2840±160Ma、2820±163Ma（Sm—Nd）。因后期被众多的早前寒武纪花岗质侵入岩大量侵吞和重重包围，变得极其支离破碎，多呈透镜状、扁豆状、层带状等孤立的残余包体产出。它们多分布在本区西南部的黄石崖和二圣宫以及大寺、龙湾等地，分别赋存在望府山期条带状变质侵入岩、中天门期石英闪长岩和傲徕山期二长花岗岩等侵入岩体中。泰山岩群的残余包体呈北西向延伸，具点多、稀散、规模小的特点。根据其岩性组合的特点和同位素年龄资料，可能相当于鲁西泰山岩群雁翎关组的组分。
二、构造
徂徕山既有早前寒武纪形成的基底构造，又有中新生代发育的构造，它们彼此迭加相互改造，形成相当复杂的构造面貌。
早前寒武纪的构造，褶皱和断裂都有。由于基底经历了多期构造变形作用的迭加改造和漫长复杂的构造演变过程，其原来的构造面貌一时难以全面恢复。现在所能观察到的是泰山岩群和望府山期变质侵入岩中发育的各种柔流小∞皱，以及普遍发育的北西向韧性剪切带。
中生代构造以断裂为主，主要有北东向和北北西向两组断裂。它们常以断层带的形式出现，断裂的多期活动性明显，断裂的内部结构和力学性质都比较复杂。
三、岩体
侵入岩 徂徕山的侵入岩，除少量中生代燕山期的脉岩外，主要是早前寒武纪的侵入岩，它们是徂徕山分布最广而又极为重要的地质体，约占其面积95%以上。主要有三期侵入岩。
晚太古代的望府山期英云闪长岩 呈岩基状北西向产出，因受后期变形、变质作用改造，其原岩的面貌全非，成为似层状的变质侵入岩，具体为条带状黑云斜长片麻岩和条带状角闪斜长片麻岩。此外，又遭受后来多期岩浆侵入活动的侵吞和改造，完整性比较差。多分布在本区西南的西黑峪、刘龙寺、黄石崖、庙子等地，在二长花岗岩和石英闪长岩中呈残余包体状出现。同位素年龄：2740Ma（Sm—Nd）、2769Ma（Rb—Sr）。
早元古代早期的中天门期石英闪长岩 主要有中粒黑云石英闪长岩和细粒闪长岩两种岩石类型。黑云石英闪长岩，浅灰—浅黄灰色，中—粗粒结构，片麻状构造，主要矿物成分为石英、斜长石、微斜长石、黑云母和角闪石，岩石的垂直节理和水平节理比较发育，球形风化作用十分普遍，呈岩基状北西向产出，规模比较大，分布比较广，主要有康王庙—黄古墩、老团山—庙子两个比较大的岩带，此外，在傲徕山期的二长花岗岩中，也有不少呈北西向延伸的层带状残余包体。细粒闪长岩，深灰一黑灰色，细粒结构，块状构造，主要矿物成分为斜长石、黑云母、角闪石和石英，分布比较少，呈层带状、透镜状残余包体，赋存在傲徕山期的二长花岗岩中。石英闪长岩的同位素年龄：2549Ma（Rb—Sr）、2610Ma（Rb—Sr）。
早元古代晚期的傲徕山期二长花岗岩 风化面黄灰色，新鲜面青灰色，中—细粒结构，弱片麻状构造，主要矿物成分为斜长石、微斜长石、石英和黑云母。岩石的垂直节理和水平节理都十分发育。此类岩体呈岩基状北西向产出，是徂徕山分布最广的一种侵入岩，如中军帐、太平顶、马场等处均有大面积出露。同位素年龄：2466Ma（Sm—Nd）、2333Ma（Rb—Sr）。
徂徕山早前寒武纪侵入岩有五个特点：即分布广泛，多呈北西向展布；岩石类型比较多，岩性变化比较大，岩石面貌比较复杂；岩浆演化的多阶段性和侵入作用的多期次性明显；岩浆来源的类型比较多，慢源型（傲徕山期岩体）、壳源型（中天门期岩体）、幔壳源混合型（望府山期岩体）；遭受后期改造的特征明显。
变质作用与变质岩 徂徕山的变质作用比较普遍和强烈，有区域变质作用和动力变质作用（韧性剪切变形作用）两种类型，它们形成了晚太古代的泰山岩群以及使众多侵入岩体遭受不同程度的变质。变质作用的多期性明显。区域变质作用有三期：即晚太古代早期的角闪岩相变质作用；晚太古代晚期的绿片岩相变质作用；早元古代早期的低绿片岩相变质作用。动力变质作用有三期：即晚太古代剪切变形作用，使望府山期条带状片麻岩发生糜棱岩化；早元古代早期剪切变形作用，使中天门期石英闪长岩发生糜棱岩化；早元古代晚期剪切变形作用，使傲徕山期二长花岗岩局部发生糜棱岩化。
徂徕山出露的变质岩相对比较少，主要有由区域变质作用形成的泰山岩群斜长角闪岩、变粒岩和片岩，以及望府山期的条带状片麻岩。其次为韧性剪切变形作用形成的糜棱岩和变晶糜棱岩等动力变质岩。
四、山脉形成的年代与演化过程
徂徕山属鲁中山区泰沂山脉，在燕山期构造运动中形成现在规模。岩石为太古界泰山杂岩，周缘地带有灰岩出露。海拔500米以上地区面积广大，山势较为平缓。山脉中耸立着望山、孤山、东辙山、秋千架、望岳峰、玲珑山、虎头山、攒石崮、黑山、卧虎山、轿顶、映佛山、炮楼顶、女之崮、贵人峰、独秀峰、大寨顶、黄崖顶、荞麦峰、锯连山等21座山峰，最高的为太平顶，海拔1027.8米。沧浪沟、毛老峪、石榴峪、大藏峪、羊栏沟、光化寺沟、年家峪沟、王庄沟等数十条沟谷遍布山中。徂徕山作为地壳发展某一阶段的产物，它的形成与泰山基本类似，也经历了一个漫长而复杂的演变过程，大体上可分为古徂徕山形成、海陆演变、今日徂徕山形成等三个阶段。
古徂徕山形成阶段（距今2500Ma以前）
大约在晚太古代初期，即距今2800Ma前，古老陆台裂开，形成巨大的凹陷带（海槽），沉积了巨厚的超基性—基性火山岩和杂砂质火山碎屑岩（泰山岩群）。在距今2500Ma前后，鲁西地区发生过一次强烈的造山运动（泰山运动），原先沉积的岩层褶皱隆起形成巨大的山系，古徂徕山就是这些山系的一部分，耸立在海平面之上，同时伴随着岩层的褶皱隆起，产生了一系列断裂以及大量中酸性岩浆的侵入和区域变质作用，从而逐渐形成了今日见到的表壳变质岩系和分布广泛的英云闪长岩、花岗岩类的古老侵入杂岩体。同位素年龄为2500～3000Ma。
海陆演变阶段（距今600～200Ma） 耸立在海平面上的徂徕山，经过1800～1900Ma的长期风化剥蚀，地势渐趋平缓。古生代初期，华北广大地区大幅度下降，海水侵入，古徂徕山也随之沉没到海平面以下。整个华北包括鲁西在内，当时是一片汪洋大海，于是在古徂徕山的“泰山杂岩”风化剥蚀面上，沉积了近2000米厚的海相地层，即寒武—奥陶系的石灰岩和页岩。中奥陶世末，在加里东运动影响下，鲁西和整个华北又缓慢地整体上升为陆地，缺失了晚奥陶世、志留纪、泥盆纪、早石炭世的沉积。及至中石炭世初，发生过短暂的升降交替，鲁西处于时陆时海的环境，在中奥陶统的风化剥蚀面上，沉积了中、晚石炭纪的海陆交互相含煤地层。而后鲁西又持续上升，进入大陆发展阶段。在此段时间，徂徕山地区的地势高差不大，基本上是丘陵地形。
今日徂徕山形成阶段（100～30Ma） 中生代晚期（距今200Ma左右），在燕山运动影响下，徂徕山南麓产生了一条近东西向的断裂（莲花山断裂）。处于断裂北盘的古徂徕山，一方面不断掀斜抬升隆起，另一方面又遭受各种风化剥蚀，最后在山体的高处，把原来覆盖在古老泰山杂岩上的2000米厚的沉积盖层全部剥蚀掉，先前形成的“泰山杂岩”才又得以重新出露于地面，从而开始形成今日徂徕山的雏形。
新生代期间（距今70～60Ma） 在喜马拉雅运动的影响下，徂徕山沿莲花山断裂继续大幅度抬升，到新生代中期（距今30Ma左右），今日徂徕山的总体轮廓基本形成。经过后来的长期风化剥蚀，才逐渐形成今日徂徕山的面貌景观。
综上所述，徂徕山在长期的演变过程中，经受了泰山运动、加里东运动、华里西运动、燕山运动和喜马拉雅运动等五次大地壳运动的强烈变革，经历了地壳发展历史太古代、元古代、古生代、中生代和新生代等五个主要阶段的改造，真可谓几度浮沉，几经沧桑。今日的徂徕山不是太古代的古老隆起，而是一个中新生代的掀斜断块凸起，燕山运动奠定了山体的基础，喜马拉雅运动造就了山体的基本轮廓，莲花山断裂活动塑造了徂徕山今天的自然景观面貌。