中国共产党的创建和山东党组织的建立与发展，为泰安县地方党组织的创建创造了条件。
１９２１年７月23日，中国共产党第一次代表大会在上海召开。共有七个地方的53名党员的12名代表参加。王尽美、邓恩铭作为山东代表出席了中共一大。他们回到山东开始有组织地宣传马克思主义，建立发展地方党组织。
１９２２年７月，中共二大在上海召开，在中共一大确定了党的名称，通过了党纲和奋斗目标的基础上，制定了党的彻底反帝反封建的革命纲领，标志着党的创立任务的完成。１９２３年６月12日至20日，中共三大在广州召开， 决定与孙中山领导的国民党实行合作，建立革命的统一战线。中共三大之后， 经过中共的努力，国共合作的步伐加快，推动国民党于1924年1月，召开了国民党第一次全国代表大会，促使国民党接受了反帝反封建的政治主张，重新解释了“三民主义”，确定了“联俄、联共、扶助农工”的三大政策，接受和容纳共产党员、青年团员，以个人身份加入国民党，形成了以共产党和国民党合作为基础的革命统一战线。第一次国共合作建立后，革命形势迅速发展，工农运动蓬勃兴起，革命力量迅速增长。在大革命形势影响下，进步知识分子和劳苦工农群众，在“打倒列强除军阀”革命要求的推动下，广东革命政府于１９２６年７月发起了以推翻北洋军阀的反动统治为目的的北伐战争。
１９２５年１月１１日至２２日，中共四大在上海召开。尹宽作为山东代表参加大会。２月，在济南建立了中共山东地方执行委员会（简称山东执委）， 统一领导山东党的工作。按照中共四大要求，中共山东执委，一面积极组织开展工人斗争，一面深入到工业区、学校和广大乡村，发展扩大党组织，党的活动开始扩大到泰安地区。
在党组织发展过程中，泰安县的马守愚、王仲修等先后加入中共党组织。１９２５年上半年，共产党员李鹤年 由莫斯科东方大学回国，组织了唐山工人运动等。是年秋，他回到原籍泰安县东向村（现属肥城市），以办夜校、开“平民饭店”为掩护，开展革命活动，并以“防匪保家”为名，组织农民自卫队进行建立革命武装的尝试。８月，上级党组织委派马守愚到泰安、曲阜等地开展建党工作。不久，又派王仲修到泰安火车站开展工运工作。他们首先在泰安火车站铁路工人中秘密宣传革命，组织泰安铁路地下工会，王仲修任常务委员。并发展工会会员 秦少祥、孙建林入党。１９２６年３月，和省里派来的于赞之 ，在蒿里山秘密开会，正式建立了中共在泰安第一个党支部——泰安支部，马守愚任支部书记，于赞之任组织委员，王仲修任宣传委员，从拉开了泰安当组织在泰安创建的帷幕。
１９２６年春，马守愚到曲阜省立二师开展党建活动期间,结识了泰安县大汶口卫驾庄村的青年学生王撝卿 ，遂发展他为中共党员，并安排他立即回家乡发展建立党组织。他很快在大汶口附近，发展王宪钧、王淑海、王宪清等人入党。4月，马守愚派中共山东执行委员会交通员李自珍去卫家庄，建立了大汶口特支，直属中共山东地方执委领导，王撝卿任特支书记。６月，马守愚、于赞之等３０余人在泰安城西北的天外村小学召开党员、团员、工会会员会议，在会上作了当前形势的演讲，布置下一步开展党团活动的意见，并进行了分工，由马守愚负责学运工作，于赞之负责工运工作。是年冬，马守愚、于赞之在泰安萃英中学开展学生运动，先后发展刘德林、朱玉干、孟宪尧、郝希凤等２０余名师生为中共党员，并建立了中共萃英中学支部，于赞之任书记。
１９２７年６月，马守愚、于赞之等到省立三中开展党的活动，发展左梦琴、侯振汉等为中共党员，并建立了中共省立三中支部，左梦琴任书记。７月，中共泰安支部在泰安发展张俊法等１３名工人入党，建立了泰安火车站党支部，张俊法任书记，丁连泰、李炳玉、于森成、孙建林为委员。同月，在齐鲁联军军需学校上学期间由马守愚、朱霄介绍入党的武冠英回到家乡泰安县东向镇，以东向镇为基点与李鹤年联系，发展张克明等人入党，建立了东向党支部，李鹤年任书记。同时，在泰安县六郎坟以北的小李庄也建立了党的关系，济南第一师范毕业的李家菊为负责人。９月，朱玉干回到家乡北望村开展党的工作，发展蒋圣修等人入党，建立了北望村党支部。党的力量进一步聚集和发展。
１９２７年８月，中共山东省委根据泰安党组织发展情况决定成立中共泰安县委，隶属山东省委领导。马守愚任县委书记，李鹤年任组织委员，武冠英任宣传委员。此时，由马守愚负责发展联系的莱芜党组织也有了较快发展。９月，为加强对泰安、莱芜一带党的工作的领导，省委决定将泰安县委改建为泰（安）莱（芜）县委，马守愚任书记，同时建立莱芜区委，归泰莱县委领导。