京沪铁路境内段 京沪铁路原为津浦铁路,建于1909年(清宣统元年)4月，1912年(民国元年)11月全线竣工通车。境内段从曲阜姚村站向西南入境，经白家店到兖州城东南侧，穿泗河向南在程家庄出境，上下行42.892公里。1916年民国政府接管津浦铁路，对境内段进行了股道增设和管理。1938年日军侵占兖州后，增铺站线和改修岔线。1945年日军投降，国民党政府接管津浦铁路，对站内铁路轨件进行移铺和拆除。1947年国民党政府下令抢修津浦铁路，6月，兖(州)浦(口)通车。11月，兖州至济南段通车。
建国后，对津浦铁路进行了有计划的修建和技术改造。自1975年始在津浦线K501+400至K508+100的位置上对兖州站进行大规模的改造和扩建。1990年境内段全部实现了双线自动闭塞，使用了6502大站电气集中连锁设备。
新石铁路境内段 新石铁路以兖州为中心，西行经济宁、菏泽、东明过黄河入河南境，到新乡与京广铁路交汇并接新(乡)焦(作)线，长310余公里；东行经曲阜、平邑、临沂直到石臼港，长307.87公里。成为我国东西走向的铁路干线，为晋煤外运的东西通道之一。
兖新段 全线先后分3段建设。一是兖济段，原称兖济支线，建于1911年(清宣统三年)，长31.5公里，境内段长20.89公里。1944年被日军拆除。1958年山东省政府拨款，地方政府筹建，10月修复通车，1960年移交济南铁路局。1968年进行大修，将33公斤/米杂轨更换为中43公斤/米轨，道岔换为12号7组，9号5组，轨枕由原来的1400根/公里增补到1760根/公里，达到三级干线标准。1978年于兖济支线2.190公里处修建到兖州货站的联络线，长2.177公里。二是济宁至菏泽段，长109.5公里。1977年动工，1979年建成通车。三是菏泽至新乡段，长约169公里。1980年由菏泽西延伸过黄河到新乡与京广线交汇。
兖石段 为国家“六五计划”的重点建设项目。从兖州站南北两点环绕曲阜市区与兖石干线联络。南联络线，从程家庄站下行经白马厂、凫村、阮家村、曲阜到南陶洛站；上行线出白马厂站走疏解线，通过114孔，长1924.61米跨越京沪干线的特大桥进入程家庄站，通过津浦路上行进入兖州站。北联络线，自兖州货站单线行驶经白家店站通过147孔，长2473.4米跨越津浦路特大桥向东绕曲阜城到南陶洛与南联络线汇合为兖石干线。此段1981年4月动工，1984年11月建成全线通车，1985年12月交济南铁路局管理运营。