一、组织准备
1937年“七七”事变后，日本侵略军发动了全面侵华战争，华北诸省相继沦陷，中华民族处于深重的危难之中。1937年8月，中共中央在陕北洛川召开政治局扩大会议，通过了《关于目前形势与党的任务的决定》和《抗日救国十大纲领》。指出：在敌人后方放手发动群众，开展独立自主的游击战争，配合正面战场，开辟敌后战场，建立抗日根据地。根据中共中央的指示，中共山东省委（以下简称省委）立即作出在全省各地区发动抗日武装起义的部署，并决定直接领导徂徕山抗日武装起义。作为省委领导和发动全省抗日游击战争战略计划的重要组成部分，省委决定在徂徕山发动抗日武装起义是由徂徕山特定的条件所决定的。徂徕山具有重要的战略地位，在此开展游击战争，进可以扼制津浦铁路，控制泰（安）新（泰）、泰（安）莱（芜）、新（泰）汶（口）等公路，威胁泰安和济南，退可以与新（泰）蒙（阴）、淄（川）博（山）、章（丘）莱（芜）等山区连成一片，以广大鲁中山区为依托，战略回旋余地大，同时徂徕山地处鲁中，作为省委的指挥位置，便于与其它战略游击区保持交通联络，而重要的基础条件，是这一带有较好的党的工作基础。
1925年，泰安就有了党的活动。1926年春，建立了中共泰安第一个支部，并逐渐将工作扩展到新泰、莱芜、曲阜等地，泰安、新泰、莱芜均曾先后建有中共县委，而泰安则曾是省委设在鲁南地区的中心县委。虽然由于国民党反动派的血腥镇压和叛徒的破坏，这一地区的党组织屡遭挫折，处于十分艰险困难的境地，但是广大党员前仆后继，百折不挠，坚持了斗争。1936年，山东党组织与中央取得了联系，建立起新的山东省委。至抗战爆发前，这一带仍保存下了二百余名党员，在当时全省党员总数仅有近千名的情况下，这是一支相当可观的力量。而且经过地方党组织长期领导的工人、农民、学生开展的多种形式以至武装暴动等斗争，使党在广大知识分子和工农群众中具有了广泛的影响和深厚的基础。1937年8月，失掉联系的中共党员鲁宝琪到济南找到省委，省委书记黎玉指定他为泰安临时县委负责人，指示他回泰安联络失散的党员，广泛开展抗日宣传，以各种名义组织群众性救亡团体，为发动武装斗争作准备。9月，失散关系的中共党员、泰安县民众教育馆馆长马馥塘发起成立“泰安县民众抗日总动员委员会”，推举老教育家范明枢任主任，社会各界知名人士江海涛、李镜铭任副主任，积极开展宣传抗战、募捐支援前线等活动。马馥塘在“动委会”名义下，发起成立“泰安县人民抗敌自卫团”，号召一切不愿当亡国奴的人们参加自卫团，由马馥塘任团长。当时位于泰安城南的篦子店有一个民众教育实验区，在这里任教的于一川、孙镜秋都是共产党员且建立起党支部，因此，自卫团以泰城民众教育馆和篦子店学校为基点，泰安县大部分共产党员和抗日积极分子踊跃参加，报名者很快发展到300余人。
1937年10月中旬，省委鉴于日军兵临黄河北岸，济南形势紧张陷入混乱状态，决定加快全省抗日武装起义的进程，遂将机关迁到泰安，准备以泰安地区党的工作为基础，直接领导发动抗日武装起义。随后，省“民先”队部和一批平津流亡学生陆续迁至泰安。省委迁到泰安后，省委代表参加了中共泰安临时县委在城南篦子店召开的会议，在会上传达了中央七八通电和省委关于发动组织游击队的计划。会议根据省委指示，决定以“山东人民抗敌自卫团”的名义发动武装起义，并以津浦铁路为界，分东西两个区展开活动。省委决定直接领导铁路以东地区的武装起义，并把起义地点确定在泰城东南的徂徕山。
10月22日，中央派来的红军干部赵杰、韩明柱、程绪润及10余名流亡学生到达泰安后，省委立即召开紧急会议。会上，黎玉分析了山东的形势，确定发动武装起义的时机，应选择在国民党韩复榘部队开始撤退或已溃散，而日本侵略军未到或已到达而立足未稳之际。省委采取的准备措施，一是除派韩明柱去寿光县外，对干部进行了划区分工。派程绪润、刘居英去莱芜；赵杰、程照轩、侯德才去徂徕山前一带发动群众，筹集枪支，组织武装。二是加强各地党组织的建设，整顿恢复各县党组织。正式建立泰安县委，夏辅仁任书记；莱芜县委由秦云川任书记；新泰在孙汉卿主持下成立新泰县工委，董琰任书记。各县党组织恢复健全后，根据省委指示，开展抗日武装起义的发动准备工作。他们四处联络发展党员，广泛发动群众，加紧组织抗日武装。泰安县的党员分赴10余个区、村开展工作。赵杰等3人到山阳后，组成六区区委，宣传发动群众，在封家庄发展封振武等3人入党，建立封家庄党支部。在程照轩的帮助下，赵杰争取原国民党六区区长程子源（程鹏）的支持，在山阳、封家庄一带发动了近百人的抗日武装。其他如赵笃生、马馥塘在泰安城，于一川在篦子店，燕遇明在颜张，张烈在山口，朱玉干在北望村，赵桓在李家庄，倪冠英在角峪，分别发展党员，筹集枪支，组织了部分人枪。莱芜县委在刘居英、程绪润帮助下，联络党员发展组织，开展上层人物统战工作。党员划片分工，以秦云川、黄仲华、刘夏峰、刘子正、毕指南、孙启明等为骨干，分若干区、点发动组织了100余人的抗日武装。新泰县工委与原县委的领导骨干王宪廷、王德一、王迫悟等，按照分工，在7个区、村，分别发动联络人员，也组织了100余人的抗日队伍。此外，泗水的共产党员周蓝田、管戈、曹宇光等，在泗水县分头开展活动，组织了一批抗日游击队。宁阳东庄一带爱国知识分子朱蓂阶在中共党员周蓝田等配合下，也组织了一支抗日队伍。经过省委和各县党组织两个多月的努力，泰安地区党的力量得到较大发展，广大群众抗战热情空前高涨，各地的抗日武装纷纷组织起来。来山东的红军干部洪涛，也奉省委之命从鲁西北来到泰安，举行抗日武装起义的条件基本成熟。
二、誓师起义
12月24日，日军渡过黄河，27日占领山东省会济南，并轰炸泰安城。国民党军队和官吏富豪仓皇南逃，局势骤然紧张。于日军渡黄河的当天，省委机关从泰城转移到篦子店村。27日，省委召开紧急会议，黎玉、洪涛和省委宣传部长林浩等10人参加会议。这次会议决定在日军占领泰城时举行起义。会后，参加起义人员积极赶制起义用的旗帜、大印等。由武中奇和韩豁、赵新、唐克、蒋平、傅生、范琳等6位女同志做了一面长方形队旗。右上角为斧头、镰刀，中间由武中奇书写“游击”两个大字，番号是“八路军山东人民抗日游击队第四支队”。武中奇用一块长方形砚台用小篆体镌刻关防“八路军山东抗日游击队第四支队之关防”。黎玉又在城东南东夏村召开有省委和延安来的干部以及泰安县委和平津流亡学生负责人参加的起义工作会议，对发动起义作紧急部署，要求各县委于日军占领县城时拉出武装，待命集中。并派张北华、程重远等立即去泰西发动领导泰西起义，以策应徂徕山起义。30日，省委机关撤离篦子店村，一部分由洪涛、林浩率领先上徂徕山，接应各路起义队伍；另一部分由黎玉、景晓村带领去山阳村，联络赵杰发动的队伍。同时，泰安县委通知各地武装到徂徕山集合。
日军占领济南后分路南侵。12月31日，泰安城沦陷。1938年1月1日，省委毅然举起抗日救国大旗，率领泰安县发动的大部分武装和平津流亡学生、爱国士兵共160余人，在徂徕山大寺誓师起义，成立了“八路军山东人民抗日游击队第四支队”。洪涛任司令员，黎玉任政治委员，赵杰任副司令员，林浩任政治部主任，马馥塘任经理部主任。起义队伍暂编为两个中队，省委机关、泰安县委、泰安人民抗敌自卫团成员和青年学生编为第一中队，赵杰、程照轩、冯平、封振武发动的队伍编为第二中队。
徂徕山誓师后，各县根据省委通知，先后拉起队伍奔向徂徕山。莱芜县委在日军占领莱芜城后，集合60余人、50余支枪，于1月7日奔向徂徕山，被编为第三中队。新泰县工委集合50余人、40余支枪，于1月5日、7日、9日，由董琰、单洪、周星夫等带领，分批到达徂徕山，大部编入一中队。进步知识分子朱蓂阶等人在宁阳东庄一带发动23人，于1月24日拉上徂徕山，编入第二中队。林浩、武中奇、朱玉干等人还争取收编部分国民党溃兵，编为第四中队。期间，大汶口游击队的余琳、李大同（左宏奇）等30余人分批上山参加起义部队，大部编为一中队。在不到一个月的时间里，四支队发展到400余人。四支队建立后，建立政治工作制度，各中队成立党支部，设立指导员，排成立党小组，班设政治战士，加强了部队政治教育和军事训练，以迅速提高部队的政治素质和军事素质，准备尽快投入打击日本侵略者的战斗。
三、发展壮大
经过短期训练后，省委决定部队下山到新泰一带农村，发动群众，以求发展壮大。1月中旬，部队下山，沿泰安的茅茨、良庄向新泰进发。部队一路密切联系群众，在群众中开展多种形式的抗日宣传活动，得到人民群众的拥护。行进途中，得知敌人要从大汶口去新泰，为了打击敌人，锻炼部队，四支队决定伏击敌人。26日，赵杰率一部在徂徕山南的寺岭村设伏，对日军进行了首次作战，打击了敌人的嚣张气焰。战斗中，班长杨桂芳（莱芜人）牺牲，他是四支队第一名烈士。寺岭战斗打响了四支队打击日军的第一枪，扩大了共产党和八路军的影响。2月初，四支队到达新泰境内刘杜镇一带，泗水的共产党员周蓝田、管戈率领在丑村一带发动的80余人和曹宇光等率领在泗水柘沟发动的20余人加入四支队，编为第五中队。四支队与国民党临沂专员张里元建立了统战关系，商定联合攻打新泰城。决定由张部攻城，四支队打援。2月18日，四支队派封振武率一部精干武装，埋伏于泰（安）新（泰）公路上的四槐树村附近，用地雷炸毁敌军车两辆，炸死炸伤日军数十人，军官一名。四支队取得重大胜利，而张里元部却未按计划行动。2月下旬，省委在新泰刘杜镇召开扩大会议。会议总结抗战以来全省的工作，决定由黎玉去延安向党中央汇报山东抗日斗争情况，请求中央派干部来山东，由林浩代理省委书记和四支队政委。会议还决定，四支队兵分两路活动，以扩大影响，发展力量。北路由一、三、四中队组成，为第一大队，由洪涛、林浩率领北上莱芜、淄川一带；南路由二、五中队组成，为第二大队，由赵杰、程照轩等率领，南下费县、蒙阴。另派鲁宝琪回泰安组建泰安独立营。在分兵活动的过程中，四支队得到迅速的发展和壮大。
北路一大队于3月初向北进发，经莱芜于4月初进入淄川境内的马棚、磁窑坞一带，与廖容标、姚仲明率领的黑铁山起义部队——山东人民抗日救国军第五军会师。一大队北进一个多月的时间里，数次收编民间抗日武装，其中较大的有四部分。在莱芜、新泰边界的天井峪，一大队击溃了阻挠其前进的顽固派和进步的部队，收编其一部，编为第六中队。进入莱芜境内后，于八里沟处决了县维持会长张启林。在红埠岭村，将张寿民、徐杰三在莱芜常庄、苗山发动的武装编为第十中队。在马棚，博山工委委员张敬焘与博山民团的爱国人士徐化鲁，带他们组织的二三百人的武装加入四支队，后编为四支队教导队。共产党员汪洋、张岗与省委取得联系，带他们在临沂、兰陵、莒县发动的400余人加入四支队。至此，一大队发展到2000余人。
南路二大队经蒙阴、费县到了蒙山万寿宫。原泰安六区区长程子源率其区队100余人参加四支队，编为八中队。二大队在蒙山活动月余，接到省委要求开回莱芜的通知，立即回师北上。在北上途中，又扩编3个中队：省委派王一平到宁阳东庄一带帮助朱蓂阶发动的80余人，与早些时候参加四支队的20余人编为第七中队；单洪、韩顾三、李春之、曹礼琴等在新泰张庄、曹家庄、蒲家庄、孔家庄等村发动的武装编为第九中队；王迫悟、刘其人等在新泰城区周围组织的队伍编为第十一中队；同时，四支队司令部派董琰、边裕鲲去新蒙边界的黄庄，将刘子升、陈明达、杨荆石等拉起的武装编为第十二中队。二大队辖7个中队，近2000人。鲁宝琪回泰安后，与因当时未接到通知没能上徂徕山的洒海秋、张烈、张瑞轩等取得联系，分别联络了一些泰安县抗敌自卫团的成员，在泰安北部的麻塔村集合数十人，编为泰安（东）独立营。在两个多月的时间里，四支队发展到12个中队、1个教导队、1个独立营，共计4000余人。
四、莱芜反“摩擦”
在四支队分路活动的过程中，国民党反共顽固派秦启荣，在莱芜地区蓄意制造“摩擦”，经常进攻四支队，破坏抗日活动。四支队从团结抗战的愿望出发，进行了反“摩擦”斗争。
四支队一大队北进莱芜地区后，中共莱芜县委为给四支队扩大武装，募集给养，成立了“八路军四支队驻莱办事处”。国民党“复兴社”山东头目、反共顽固派秦启荣第五纵队回到鲁中，以抗日为名，大肆扩充实力，收编游杂武装，消极抗战，积极反共，破坏抗日民族统一战线。秦启荣委派的莱芜县长谭远村、保安大队长景肇令，拼凑了县政府武装，按照秦启荣的授意，极力排斥限制四支队在莱芜的活动。一大队为避免发生“摩擦”，绕过莱芜北上淄川地区活动。一大队北去后，谭远村更得寸进尺，屡屡挑起事端，甚至派兵尾追北去部队，驱逐四支队后方机关，扣押四支队经理部主任马馥塘等。根据省委指示，四支队以抗战大局为重，数度忍让，通过地方上层人士作中间人谈判未果。4月上旬，省委和四支队北上部队到淄川马棚与第五军会合后，省委即在淄川之磁窑坞召开“临时扩大会议”，决定四支队番号改为“山东人民抗日联军独立第一师”，廖容标、姚仲明率领的第五军改为第二师。还决定立即通知二大队，约定会师莱芜城，反击顽固派。南路部队先期到达莱芜坡草洼一带，再次通过地方绅士与谭远村谈判，谭仍置民族大义于不顾，顽固坚持与四支队为敌。28日黎明，赵杰率二大队乘其不备，一枪未发，轻取莱城，谭、景以下300余人全部就擒。29日，北路部队到达莱芜城。四支队全军会师，力量空前壮大，在莱芜城东关广场召开了盛大的庆祝会，正式改了番号。洪涛任师长，林浩任政委，赵杰任副师长，孙陶林任政治部主任。一、三、四、六、十、十二中队编为一团，程绪润任团长，刘居英任政委，杨纯任政治处主任；二、五、七、八、九、十一中队编为二团，赵杰兼团长，程照轩任政委，程鹏任副团长，刘其人任政治处主任；汪洋等所率部队编为三团，汪洋任团长，张岗任政委，崔介任参谋长。另设教导大队，徐化鲁任大队长。
独立一师占领莱芜城后，秦启荣从鲁南等地纠集数千人的顽固武装直扑莱芜。独立一师为顾全大局避免“摩擦”，主动撤出莱芜城，先后在寨里、鲁西一带驻防。在此期间，独立一师曾多次派工作人员与秦谈判，并请泰安、莱芜知名人士范明枢、亓养斋等出面调停，以求团结抗战，秦仍坚持反共立场，不断向独立一师驻地袭击骚扰。独立一师忍无可忍，于5月初在方下至莱芜城一线向进逼挑衅的秦启荣部进行自卫还击，取得了反“摩擦”斗争的胜利，后主动退出莱芜。
1938年12月，中共中央决定成立八路军山东纵队，统一指挥党领导的山东抗日武装力量，四支队编为八路军山东纵队第四支队。1940年3月泰山区7县联合办事处在莱芜县常庄西沟崖村召开代表大会，成立泰山区行政专员公署，为鲁中地区第一个地区级政权机构，标志着泰山区抗日根据地正式建成。至此，徂徕山起义之示范全省、发动群众、成立武装、创建根据地的历史使命已顺利达成。1941年8月，四支队兼泰山军分区主力编建山纵第四旅，四支队番号撤销。