1911年9月，兖济支线（兖州至济宁）动工，1912年6月竣工，是年11月通车。兖济支线由德国派人参与勘测、设计、施工，全线用地总面积15614.2亩，贷款160万两白银，采用进口钢轨和美国油松枕木铺设。路基宽5.5米，钢轨每节长10米，每轨铺设枕木14根。济宁站内设线三股，站台2个，站内设有两股道矩形车库1座。1944年春被日军拆除。
1958年5月，山东省人民政府拨款600万元，由济宁地、市委负责筹建，济南铁路局派工程技术人员参与施工，是年10月竣工通车。1980年起，动工修筑济荷（济宁至菏泽）支线，1985年竣工通车。同年对兖济线和济宁站进行更新改造，将兖济线一直延伸到新乡，与京广线相连接。至1995年，济宁铁路线向东向西分别延伸到京广线和津浦线，并与京九铁路贯通，成为东西方向重要的铁路支线。