监狱 清朝，州衙门西院设监狱，有监室、看守室、女监20余间，狱内设吏目、典吏各1人，狱卒10至12人。犯人食物由其亲属送给。
民国初期仍沿用旧监狱。1919年，山东第三模范监狱在济宁建成。监狱为“曲尺”形，监房为“星光”形，有女监、病监、传染病室，监容500余人。收押济宁、滋阳、曲阜、金乡、邹县、鱼台、东平、汶上、宁阳、嘉祥等10县犯人。犯人食物大都由其亲属送给，少数靠在狱内做农、木工、洗刷、制面、理发、缝纫、糊盒、发网、鞋科、印刷、藤竹、土木营缮进行生活。监内卫生条件差，囚犯染病死于监内者屡有发生。1928年4月，山东省高级法院在济宁设立第一分院，是年在州后街路南建立南北“星光”一字形监狱1处，监室20间，犯人伙房4间，看守办公室、值班室7间，有管狱员负责管理。1938年，日军侵占济宁后，被日伪县政府所用，成为关押残害抗日志士的人间地狱。1941年9月，中共湖西地委在济宁的地下党员王志成、张振乐、汪洋、刘永海等4人被日伪军警抓捕，在此关押，是年冬解押济南，英勇就义。1946年9月至1948年7月，国民党重占济宁期间，伪县政府仍沿用此监狱，关押残害革命干部、积极分子、军烈属上千人，除进行严刑拷打外，暗杀、活埋的就有300多人。1947年3月21日夜，将四区区长巩伯良、副区长刘延友、指导员吴志扬、文化干事李玉延等13人活埋在“模范监狱”院内。
看守所 1946年1月，济宁市民主政府在州后街原监狱设看守所，1948年7月，有所长1人，办事员2-3人。1951年，开始有公安大队派人看押，后有武警中队看押。1965年后一直保持20人的武装看守力量。所内设有值班室、会议室、伙房等21间。1978年，在城东郊建看守所1处，占地面积1.12万平方米，其中监室40间，审讯室12间，看守办公室、值班室4间，伙房4间，仓库4间，武警宿舍24间，伙房3间。1979年，增设医药室，专为犯人看病，重病犯送医院治疗。1985年，在看守所西侧建工字形新式监室28间，办公楼1座，公、检、法人员定期轮流管理，对犯人进行社会主义法制教育。每日早晚播放中央广播电台新闻联播节目，各监室均有报纸供犯人阅读。每日清扫卫生，定期喷洒药物。监室后有厕所、洗脸池，每周洗澡晒被褥一次。犯人生活费由国家供应，每人每月生活费由7元增至12元、18元，1986～1990年，生活费增至27元，食油享受居民生活标准。1990年，口粮由30斤增至36斤，每逢年、节改善生活。1991年，此看守所收归市公安局管理。