清代，税收业务由县工户房管理。民国初期，县设财政科，下属办事机构称“工房”，田房契税、杂税由工房统一办理。1938年6月，济宁县公署设筹供委员会，负责田赋、附捐及各种杂税征收。1946年1月，市民主政府设财政科，各区公所配财粮助理员1人，兼管税务工作。1947年1月，县公署成立税捐稽征处，负责土地、营业、屠宰、房捐、牌照、筵席、娱乐等税的征收。1948年7月，建立兖州税务局济宁办事处，12月，改为徐州税务局济宁办事处，下设税收、会计、征收3个股和3个驻厂组，共有税务人员21人。1949年3月，市政府设立税务征收处，主要征收国统税。
1950年5月，徐州税务局济宁办事处和税务征收处同时撤销，成立济宁市税务局，设货物税、直税、地方税和会计、人秘5个股，下辖4个税务所和果子巷税务检查站。1953年，城关税务所和税务检查站同时撤销。1958年4月，税务局与财政科合并称财政局，11月，济宁县、嘉祥县并入济宁市，税务、财政合称济宁市财政局。1961年12月，税务局与财政局分设，税务局下设税政股、人秘股、会计股，至1964年，税务局辖13个税务所，税务人员115人。1965年7月，税务局撤销，其业务并入财政局。1970年12月，财政局改称财税局，下设第一、二、三和郊区税务所。1984年4月，财政、税务分设，成立济宁市市中区税务局，设人秘股、税政股、会统股，辖第一、第二、第三税务所和郊区税务所。1986年5月，增设第四税务所，郊区税务所改为第五税务所。1988年5月建立征收管理科。1989年3月增设办公室和人事监察科，4月设立市中区税务检察室。至1990年，税务局设局长1人，副局长3人，共有税务人员143人。1991年1月，增设集体企业财务管理科，是年6月设税务稽查队。1992年2月增设第六税务所。至1993年，局内税务人员增至171人。
1994年8月，税务机构分设为济宁市市中区国家税务局和地方税务局。区国家税务局下设办公室、人事监察科、征管科、税政科、计财科和中区税务检察室，辖征收分局、稽查分局和5个税务所。1995年8月，撤销人事监察科，设人事科、政工科、监察科和涉外征收分局，至年底，局内设局长1人，副局长2人，共有税务人员127人。
地方税务局设人事监察科、税政科、征管科、计会科和办公室5个科室，下辖征收分局、稽查局和仙营、金城、观音阁、南苑4个镇税务所。1995年底，局内设局长1人，副局长2人，共有税务人员65人。