30年代，山东省立第四乡村师范学校成立体育代表队，1945年滋阳中学成立篮球代表队，队员12人，另有排球代表队和技巧队。
建国后，各级学校普遍建立了田径、篮球、排球、乒乓球、举重等代表队，并经常组织同机关队、职工队进行比赛。1963、1964年，兖州一中男子篮球队，代表济宁地区参加省分区赛，获第四名。1977年兖州男女少年篮球队参加济宁地区少年篮球赛，均获第一名，1979年兖州业余体校篮球队在济宁地区业余体校篮球赛中，女队获冠军。1979～1988年，兖州中学生篮球队共获济宁市(地)篮球赛15项第一名。其中，1983年兖州一中女子篮球队代表济宁市参加省篮球赛，1985年兖州一中男女篮球队代表济宁市参加全省中学生篮球比赛。1986～1995年，组建田径、篮球、乒乓球、排球、长跑、竞走、射箭等体育代表队，分别参加济宁市举办的运动会或单项体育比赛，共19次，获14项团体第一名，63项个人冠军，破市记录7人次。1991～1995年，兖州一中体育代表队参加山东省举办的运动会5次，参赛队员75人，获金牌20枚，银牌23枚，铜牌22枚，所有参赛队员全部进入前六名。1993年，代表山东参加全国体育传统项目学校“力恒杯”田径比赛，男子组获团体总分第一名，共获金牌4枚，银牌3枚，铜牌2枚。
学校体育的开展，促进了学生德、智、体全面发展，也涌现出一批先进集体和先进个人。兖州实验小学1983年被评为全国群众体育活动先进单位，获银盾奖，1984年被省委、省政府授予振兴山东体育先进单位称号，体育教师刘成森被评为全国优秀教师。兖州一中被评为全国群体先进单位，体育教师唐开愚被评为全国先进个人。1986、1991、1994年，兖州一中3次被国家体委命名为全国先进体育传统项目学校。1993年8月被命名为全国中学贯彻《学校体育工作条例》优秀学校。1987年11月，校长陈志民被评为全国体育传统项目学校优秀工作者，1993年，体育教师王强被评为全国优秀裁判员。同年，小孟中心中学体育教师刘惠田、新兖镇中心中学樊孝成被评为全省优秀体育教师。