1984年，济宁市卫生局设药政科，配专职干部3人，负责全市药品监管工作。1996年5月，市委、市政府决定组建济宁市医药管理局，为副县级事业单位，由市经济贸易委员会管理。1997年3月，济宁市政府批准组建济宁市医药管理局，负责全市药品、医疗器械、卫生材料、医药包装材料、化学试剂及玻璃仪器流通的行业管理，设办公室、计划财务科、生产流通科、技术质量科、综合管理科5个职能科室。2000年2月，市级药品监督管理机构调整，将市卫生局承担的药政、药检职能划归市医药管理局，市医药管理局更名为济宁市药品监督管理局，对药品监督工作实行统一管理。将市卫生局药政科及卫生局所属的市药品检验所的机构编制和人员整建制划归市药品监督管理局统一领导和管理。
2001年11月，药品监管实行垂直管理；济宁市药品监督管理局成为省药品监督管理局直属机构，负责全市药品监督管理工作。内设办公室（挂政策法规科牌子）、药品管理科、市场监督科、医疗器械科、财务科、人事教育科6个职能科室及药品稽查大队和机关党委。先后设置邹城市、兖州市、曲阜市、梁山县、泗水县、汶上县、嘉祥县、金乡县、微山县、鱼台县药品监督管理局，为济宁市药品监督管理局的直属机构。县（市）药品监督管理局挂药品检验所、药品稽查队牌子。
2004年11月，市、县（市、区）药品监督管理局（分局）分别更名为市、县（市、区）食品药品监督管理局（分局）。在继续承担药品监督管理职能的基础上，增加食品、保健品、化妆品安全监督的综合监管、组织协调和依法开展对重大事故查处职能；划入卫生部门承担的保健品许可职能。市食品药品监督管理局增设食品安全协调监察科；市食品药品监督管理局市场监督科更名为药品市场监督科；市食品药品监督管理局药品管理科增加保健品许可管理职能；市药品稽查大队更名为市食品药品稽查大队，县（市、区）药品监督管理局（分局）挂的药品稽查队牌子改为食品药品稽查队牌子。
2006年9月，组建济宁市食品药品监督管理局市中区分局、任城区分局，为济宁市药品监督管理局的直属机构。2009年，将市县两级食品药品监督管理机构由省以下垂直管理改为地方政府分级管理，列入同级政府工作部门，业务上接受上级主管部门指导和监督。
2010年3月，成立济宁市食品药品监督管理局，行政编制31人，为市政府工作部门。内设办公室（挂政策法规与行政许可科牌子）、规划财务科、餐饮服务食品安全监管科（挂保健食品化妆品监管科牌子）、药品安全监管科、药品市场监管科、医疗器械监管科、人事科7个职能科室。