1946年8月，济宁市儿童团成立，团长杨鼎新。儿童团员的主要任务是站岗放哨、送信带路，参与拥军优属等活动。9月，国民党军占据济宁城，杨鼎新被还乡团杀害。
1949年10月，市青年工作委员会在市区5处中心小学建立少年儿童队，每校配备1名青年教师为大队辅导员。至1950年，已建立少年儿童队19处，队员2312人。此后，各小学普遍建立组织。1953年，少年儿童队改称少年先锋队，少先队在共青团组织的领导下开展活动。50年代初期，少先队的主要工作多是进行“五爱”教育，开展植树造林、除“四害”、讲普通话和“为红领巾添光彩”等活动。1963年，以霍家街小学为牵头学校，带动各小学开展学雷锋、做好事活动。“文化大革命”开始后，少先队活动停止，“红小兵”组织建立。1978年下半年恢复少先队组织，是年，济宁市共有少先队大队33个、中队321个，辅导员390人，发展队员16353人。1984～1985年，在全国开展的“创造杯”活动中，市中区有7所小学获“创造杯”15个，表彰优秀辅导员10人，优秀集体5个。1986年7月，“中国少先队市中区总队”成立。之后，少先队积极参加“两个文明”建设活动。1987年，在全国开展的“勤巧小队”活动中，有43个少先队获“勤巧小队”荣誉称号。其中，霍家街小学被授予“全国少先队红旗大队”称号，琵琶山小学被命名为全省“少先队工作红旗单位”。1988年，市中区少先队预备队成立，并创办《队旗飘》报。至1990年，先后开展“全国红领巾小建设”、“金星大队”、“光辉的历程”、“争当光荣的红旗手”等活动。其中，受省表彰的先进单位10个，少先队最佳指导员、辅导员2人，受全国表彰的先进单位14个。实验小学被授予全国“红旗大队”荣誉称号。1991～1995年，市中区先后开展“学雷锋、学赖宁，争做90年代好学生”活动。认真贯彻落实《中国少年先锋队教育训练》和《山东省少先队基础建设发展规划》，组织开展“争创三星级大队”、“争做国旗中队”、“技能达标竞赛”等活动。期间，实验小学被授予“全国红旗大队”荣誉称号，普育回民小学四、二中队被授予“全国赖宁中队”。1992年，在全国少工委、全国妇联、团中央等6家单位举办的“未成年人保护法知识大赛”中，市中区教育局获“全国优秀组织奖”，2名学生获一等奖，4名学生获二等奖。6名学生获三等奖，11名教师获优秀辅导奖。北门中心小学、枣店阁中心小学等9所小学荣获省“金星大队”称号。1995年，北门中心小学、普育回民小学获“全国雏鹰大队”称号，霍家街小学郑颖获“全国一级雏鹰”奖章。15名少先队员获省“少先队劳动奖章”。市中区少工委、团区委、区教育局连续6年被团省、市委授予“少先队红旗单位”荣誉称号。