1861年，县设厘卡，负责厘金抽收和货捐、地方税捐的征收。1902年设山东筹款局兖州分局及所属验卡，管烟价捐筹。1914年设兖州区卷烟特税分局，下设2个查验站。1919年设滋阳县稽征所和县货物统捐分局。1930年仍设县稽征所，同时设有县印花税支局，1931年县稽征所改为县营业税分局。同年建乡区稽征所。1938年8月伪县公署建县统税稽征所，下设峄、滕、曲泗、宁汶4个分所。同年建县营业税征收局。1946年国民党县政府设县税捐稽征处。
解放后，设立兖州地方稽征处。1949年2月，设王因、颜店、大安、新驿稽征所，撤销兖州地方稽征处，改为兖州城关征收处，城区4镇设民主、胜利、东关、西关4个征收组。1950年4月建县税务局，下设稽征大队和税政、计会、秘书3个股，并将各区稽征队改为税务所。1952年底，县稽征大队成立，1953年县稽征大队撤销，城关税务所成立。1958年3月，撤县税务局，在财政局内设税政股。1960年春增设道沟税务所。1962年1月，重建县税务局，内设税政、会统、人秘3个股。年底下辖城关、王因、道沟、黄屯、颜店、新驿、大安、谷村、小孟、泗庄10个税务所。1967年5月撤局归县革命委员会生产组，1969年改为县革命委员会财税组。1971年12月设立县财税局，内设预算、企财、税政、农业税4个股。1972年1月增设红星、漕河2所。1978年底成立县局直属征收处和城镇税务所。1983年9月，财政、税务分设，县税务局下设税政、会统、人秘3个股。1984年6月增设基层股，发票管理所。1987年3月成立征管股，税务检查室，同时在兖州北站设检查站。1988年3月基层股改为人事监察股，撤销发票管理所。1988年3月，撤销兖州镇税务所，成立东御桥税务所、西御桥税务所、九仙桥税务所。1989年8月，将征收处改建为直属分局。1992年9月兖州县税务局改为兖州市税务局，1994年8月，根据国务院文件精神分设为兖州市国家税务局、兖州市地方税务局。1995年，市国税局设办公室、税收管理、征收管理、计划财务、装备票证管理、人事、政工、监察8个科室和征收、钢城、稽查、涉外税收4个分局；辖税务咨询事务所和15个税务所。市地税局设办公室、人事教育、税政管理、计划会计、征收管理、装具票证管理6个科室和直属、钢城、稽查3个分局，辖13个税务所。