在国民党反动派的残酷镇压、白色恐怖及艰难困苦的斗争形势下，尽管泰安的党组织屡遭破坏，不少党团员被捕入狱或隐蔽外地，但他们仍以顽强的革命斗志和不屈不挠的精神，度过了严峻时期，保存了革命的种子，并再次崛起和发展。
1934年秋，时任济南市委书记的赵健民与张若谷（张今铎）之母，从济南到泰安，以“济南学生抗日救国会”代表身份拜见范明枢，寻找党组织，却未能找到，但与泰安贫民小学主任鲁宝琪取得了联系。1935年春，赵建民再次来泰安，通过原济南师范教师刘乞夫（在冯玉祥办的一处学校任教），寻找党的关系，仍未找到。
1936年，共产党员马馥塘通过在山东省教育厅任职的老同学杨希文介绍，由禹城县到泰安，任泰安县民众教育馆馆长，开办了3处民众夜校，并秘密联系党组织，开展党的活动。
1936年4月，中共中央北方局派黎玉来山东恢复党组织。5月，北方局重新建立了中共山东省委，黎玉任省委书记，赵健民任组织部长，林浩（尹圭章）任宣传部长。
1937年春，省委派于一川、孙镜秋到泰安做党的工作。他们以开办泰安乡村民众教育实验区为掩护，在城南篦子店及周围村庄进行党的活动，发展唐寒涛入党，并建立了党支部，于一川任书记。
从1934年起，在济南市委书记赵健民的指导、配合及后来建立的中共山东省（工）委的领导下，泰安党组织逐渐得到恢复和发展。 到1937年“七·七”事变前，泰安地区党员队伍不断壮大，仅泰安县党员就发展到1００多人，成为泰安党组织的一支重要力量。这些共产党员活动在全县城乡各地，影响、带动了一大批革命群众，使共产党的主张日益深入人心，为泰安党组织的发展壮大打下了坚实的基础。抗日战争爆发后，他们和在狱中坚持斗争后来获释的党员一起，成为发动、领导抗日游击战争的中坚力量。
这一时期，泰安党组织经历了重新崛起、迅速发展，又由高潮转入低潮的过程。但各级党组织在白色恐怖下，组织带领人民群众进行了英勇顽强、不屈不挠的斗争，扩大了党的影响，自身也在斗争中得到了锻炼和提高。但是，这些斗争也难免受到当时从中央到地方“左”倾冒险主义的负面影响，不注意开展隐蔽斗争，不注意积蓄革命力量稳步发展，不注意分化瓦解工作等，打击了中间力量，在党组织内部产生分歧。在工作方法上急躁冒进，追求声势，致使党的工作过于暴露等。因此，遭受挫折是难以避免的，教训是十分惨痛的。