泰安党组织建立时期，党在山东的任务主要是与国民党左派合作，开展工人运动和农民运动，反对张宗昌的军阀统治，支持国民革命军北伐。为此，１９２６年２月，中共山东省委以７６号通告向全省党员发出指示。按照省委指示，泰安党组织发动领导了一系列群众斗争。
１９２７年春，国民革命军进逼长江，北路各军阀陷入恐慌混乱之中。他们加紧互相勾结，企图阻止革命军过江。军阀的专列在津浦铁路来往频繁，中共党组织指示秦少祥在掌握军阀专列通过泰安段时间后，在泰城南泮河大桥上安设自制的脱轨器，并砍断电线、电话线。结果由于脱轨器安装不牢，未能使军阀专列脱轨颠覆，但也造成其极度恐慌。
１９２７年４月和７月，国民党蒋介石、汪精卫右派集团先后在上海和武汉发动反革命政变，公开叛变革命，大肆搜捕、屠杀共产党员和革命群众，国共合作破裂。由于时任中共中央总书记的陈独秀的右倾机会主义错误，致使轰轰烈烈的大革命遭到失败。当时山东的国民党和共产党均处在秘密活动状态，都把军阀张宗昌作为主要敌人，加之当时国民党在山东的力量相对较小，国共两党无大的冲突，中共山东省委指示各地党组织停止迎接北伐军，继续领导反对张宗昌军阀统治的斗争。这一时期，由于反动军阀张宗昌加紧搜刮，残酷剥削，滥发军用票，支撑军事斗争，山东各地物价飞涨，失业者剧增，工厂、铁路工人“压薪”现象严重。加之年关将近，多有生活无着难以过年者，铁路工人酝酿着一场向路方索薪斗争。 针对这一现状，中共山东省委发出通告，开展“索薪”（索发压薪）斗争。泰莱县委根据省委指示，决定泰安火车站党支部通过工会，发动工人群众开展“索发欠薪”斗争。张俊法、刘春祥首先代表工务工人向泰安火车站站方，提出将欠薪一次付清的要求。但是，军阀走卒为了镇压工人的斗争，宣布将张、刘二人开除，企图杀一儆百。在工会领导下，被愤怒的工人将军阀走卒包围起来，进行说理斗争，迫使他们收回成命，并同意研究上报工人的要求。
１９２８年１月，中共山东省委以津浦铁路总工会济南分会的名义发表“索薪宣言”，发动津浦铁路工人统一开展斗争。泰安火车站党支部积极响应，派人分别联络了泰安工区大汶口至界首各车站，纷纷向铁路局打电话，递呈文。泰安站派张俊法为代表去济南递交呈文。津浦铁路韩德（韩庄至德州）段处长韩文友拒不答复，并以“非常时期继续扰事者以军法论处”相恫吓。１月１２日，济南铁路大厂的工人们和韩（庄）德（州）段各站代表团在济南站包围了韩文友的专列，并高呼“不达目的誓不罢休”的口号。最后，军阀当局被迫发给工人当月工资，另增发一又四分之一的薪水，作为年终“花红”。这次斗争取得了初步胜利。