境内民间体育以武术见长。汉至唐已有习武活动，明、清时期习武之风盛行。城西南5里处有大校场，城内有小校场、演武厅。清末废科举，兴学堂，体操、田径、球类等现代体育活动传入，体育事业有所发展。1930年山东省立第四乡村师范学校增设国术课，县城设立国术馆，倡导各村设武学。
新中国建立后，体育事业迅速发展。50年代，学校贯彻实施《准备劳动与卫国体育制度的暂行条例》，同时根据全国统编体育教材和教学大纲，安排体育课和课外活动。民间体育活动广泛开展，工、商、企业驻兖大单位及县直有关部门，普遍成立了篮球队。50年代末至60年代初，因国民经济困难，一度影响了体育活动的开展。1964年后，体育活动得到恢复和发展。“文化大革命”期间，体育事业遭到破坏。70年代后期至1990年，体育事业发展迅速。其间，容纳6000名观众的灯光球场看台、现代化多功能体育馆等建成使用。1995年，全市有田径运动场45个，其中400米标准场3个。篮球场576个，其中灯光球场23个。羽毛球场124个，门球场19个，旱冰场1处。群众体育活动广泛开展，全市共举办运动会和单项体育竞赛104次，参加竞赛者达23300多人。在广泛开展群众体育活动的基础上，注重了人才培养和竞技水平的提高。至1995年，共向省以上单位输送运动员110人。获国家级金牌7枚，银牌7枚，铜牌11枚；省级金牌50枚，银牌47枚，铜牌46枚；市级金牌304枚，银牌238枚，铜牌196枚。打破亚洲记录2人次，打破全国记录7人次，打破省记录11人次，打破市记录71人次。
1988年9月,兖州县被评为“全国体育先进县”,10月12日,副县长潘凯生代表兖州县出席了在北京召开的全国体育先进县表彰会。1992年5月,通过了国家体委体育先进县的复查验收。