清末，济宁知州兼理司法，典吏及刑房长官为知州的辅佐官，并配以法医，负责勘验。知县有权决定笞、杖、徒刑案件，流刑以上案件，报上一级裁决。民国初期，山东省高等法院在济宁设立分院。1938年6月，民国县公署建承审处，编制10人，设承审员1人、帮审员1人、书记员3人、检验员1人、推事3人、勤杂1人。1944年11月，县公署承审处撤销。
1946年4月，济宁市民主政府建立司法科。1947年9月，国民党军重占济宁，司法科撤销。1948年7月，济宁第二次解放，随即复建司法科。1949年6月，司法科改建为济宁市人民地方法院，工作人员11人，其中院长2人，下设审判科、行政科、看守所。1950年7月建立人民法庭。1956年建立审判委员会。1958年，市政府成立政法部，统管公、检、法。1962年政法部撤销，公、检、法分立。法院下设刑、民审判庭和办公室。1968年12月，实行军事管制，职权由中国人民解放军济宁市公安机关军事管制小组代行，下设治安、预审、审判3个小组。1973年6月军管撤销，恢复法院建制。1980年12月院内增设经济审判庭。1983年10月，市人民法院改称济宁市市中区人民法院。1986～1995年，院内设有4室（办公室、政策研究室、法医室、监察室）、1科（政工科）、1组（纪检组）、1队（法警队）、7庭（刑事审判庭、民事审判庭、经济审判庭、经济审判二庭、行政审判庭、告诉申诉庭、执行庭），下辖8处人民法庭（4镇、4个街道办事处各1处），共有干警130人。