西周时称肥子国，肥城因此而得名。西汉初年始置肥城县，属兖州刺史部泰山郡所辖，距今已二千二百多年。元至元十二年（1275年），知县赵珪监修肥城城池。明永乐年间（1403～1424年），城东、北二隅为河水所啮，后随势维修，致有凹陷。明成化五年（1469年），知县林廷庸又增筑月城和门楼。明嘉靖四十四年（1565年），知县钱商周组织民众重修城池。明万历二十二年（1594年），知县马经纶组织民众改砖墙为石砌城垣。清乾隆二十六年（1761年），知县李九如率民修补城池32段。清咸丰三年（1853年），知县吴树声倡导捐款维修城池。老县城经历代修建，至清末，俯视城池形状，恰似猛虎平卧，头南尾北，故又称为“卧虎城。”1946年5月，为清除国民党军政机关在城内的依托，县民主政府组织群众将部分城墙拆除。至1958年全部拆掉。中华人民共和国建立后，县城建设列入国家计划，进行了改建和扩建。因为肥城县城地下有丰富的煤炭矿藏，需要开采，1975年10月10日，经国家计划委员会批准，决定将县城迁至城南7公里处的刘家庄西侧。1977年1月开始规划设计，同年7月破土动工。1980年1月，中共肥城县委、县革命委员会和部分企事业单位迁驻新城。1982年县城搬迁基本结束。1992年8月，撤销肥城县，改设肥城市（县级），新市区已成为全市政治、经济、文化中心。