488年（北魏太和十二年）始建乘氏县于今城，直至1166年（金大定六年）。
其间，除隋末唐初冈战乱乘氏县一度废置外，历北周、隋、唐、五代、宋及
金，共678年其名未变。
1129年（南宋建炎三年），乘氏县被金军占领。当地百姓多随宋南迁；
加之连年水患，户口大减，乃于1166年（金大定六年）废乘氏县，其地并于
济阴县（济阴古城在今定陶县力本屯乡境内）。又二年，黄河泛滥，大水平
地逾丈，济阴城圮于水。曹州太守赵世安将曹州和济阴县治均迁于今城。这
是菏泽城第一次为州治。自此，为济
阴县治达200年。
1368年（明洪武元年），因黄河水患又废除济阴县，其地直属曹州。州
治先迁至安陵镇，再迁盘石镇（曹县城）。今城改称古雄镇。
1446年（明正统十一年），巡抚山东大理少卿张骥奏以河北人民渐广，
差赋不便，仍以金乘氏县旧址复置曹州。
1735年（清雍正十三年），升曹州为府，附郭置菏泽县，即今市城址。