1945年，在中共兖济县委和青年救国联合会的领导下，开始在柳沟、娄庄一带成立儿童团。1946年春，全县(县城及附近村庄除外)大部分村庄均成立儿童团组织。儿童团员在县、区、村政府的领导下，站岗放哨、查路条、捉汉奸、送情报、斗地主、监视敌特活动。是年7月，由于形势恶化，儿童团组织停止活动。1948年7月兖州解放后，全县普遍恢复儿童团组织。
1950年春，中共滋阳县委青年团工作委员会根据团中央指示，在白衣堂小学成立少年儿童队。中国少年儿童队由大队、中队、小队组成。1951年10月，全县有7个大队、26个中队、94个小队，有队员1185名。1953年6月，中国少年儿童队改称中国少年先锋队。聘用38名教师兼任少先队辅导员。少先队在学校团支部的领导下，开展“五爱”(爱祖国、爱人民、爱劳动、爱科学、爱护公共财物)活动，培养了少先队员的良好道德风尚。1963年，在少年儿童中开展向雷锋学习的活动。1965年，开展请“三老”(老红军、老干部、老党员)讲革命史，“我与父母比童年”和学习毛泽东著作活动。全县少先队员发展到38707人，大队辅导员增加到133人。“文化大革命”期间，“红小兵”取代少先队，有红小兵35866人。1978年10月，恢复少先队组织，全县少先队组织开展学雷锋、树新风、创“三好”(品德好、学习好、身体好)活动，培养少年儿童成长为有理想、有道德、有文化、有纪律的一代新人。1985年，开展“创造杯”活动，共有4500多个活动项目，有34项获全国“创造杯”最佳奖，受到团省委的表彰。还开展了“四有小金星”活动，获奖24个。在1989～1990年全国开展评选“中国好儿童、中国好少年”活动中，有40余名少年儿童获全国“好儿童、好少年”称号。1991～1993年，在“中国好少年”、“中国好儿童”和济宁市“十佳少年”评选活动中，各有2名获“中国好少年”、“中国好儿童”和济宁市“十佳少年”称号。在全国少工委、《中国少年报》开展的“红领巾读书读报”活动中，团市委获优秀组织奖，并在北京人民大会堂作了经验介绍。参加省少工委举办的鼓号操比赛，获二等奖。
1995年，广泛开展了争创“国旗中队”和少先队员生活技能达标竞赛活动，大力加强少先队员的素质教育，1名少先队辅导员被省政府授予“优秀少先队辅导员”。是年，兖州市少先队有少先总队14个、大队246个、中队1754个、小队10524个、队员70786人，专、兼职辅导员2631人。