建国初期，老年体育多为自发活动。1979年，随着参加体育活动的老年人不断增加，县体委举办24式、48式太极拳和32式太极剑学习班6期，学员达140余人。1984年在省第一届“长寿杯”乒乓球赛上，老年人运动员赵瑞芝获女子单打第三名。1985年1月县老年体育协会成立后，常年组织老年人进行门球、钓鱼、乒乓球、太极拳、太极剑、健身操、导引养生功、桥牌、围棋、象棋等项活动，每年举行老年体育比赛10余次，参加人数1300多人，并多次组队参加市级以上体育比赛。其中，1985年老年乒乓球队获省第二届“长寿杯”乒乓球赛团体第五名，赵瑞芝获女子单打第一名，王立明获男子单打第四名。
1986年老年体育协会举办控疗法气功学习班2期，80余人参加。同年，承办山东省首届老年人田径运动会，兖州县组队参赛，并获总分第四名，唐开愚获男子5000米第二名。自1987年起，兖州老年乒乓球队连续4次代表济宁市参加省老年人乒乓球赛，均获得较好成绩。1988年兖州县承办山东省第五届“长寿杯”老年人乒乓球比赛。1992年，兖州老年乒乓球代表队第五次蝉联济宁市老年乒乓球比赛团体冠军。同年以兖州队为主组队，代表济宁市参加了省第三届“长寿杯”乒乓球比赛。1994年10月，兖州市泗庄乡老年门球队代表济宁市参加省首届老年门球赛，获第六名。
在老年体育活动中，1986～1990年，兖州老年体协连续5年被评为济宁市老年体育先进单位，1988年兖州煤机厂被评为省老年体育先进辅导站；裴杰被评为山东省老年体育先进个人，徐道双被评为体育单项协会先进个人。1990年，王治中被评为省老年体育先进个人。1993年9月，兖州市老年体协被评为全国老年体育先进单位，受到中国老年体协的表彰。1995年10月，召开兖州市老年体育协会成立10周年大会，表彰了17个老年体育工作先进单位和32名老年体育先进个人。