1958年7月9日，国务院决定将东平湖自然滞洪区改建成一座具有防洪、防凌、灌溉、航运、渔业等综合利用的大型平原水库。7月27日上午，周恩来总理听取水电部副部长李葆华、钱正英关于提前修建东平湖水库，以滞蓄黄河洪水的情况汇报，要求1958年至1959年建成。
1959年7月，山东省调集聊城、菏泽、济宁、泰安4个地区21个县的民工24.4万人，修建水库围坝。东平县组织3万人完成陈堤至北桥围堤。中国人民解放军派出4000名指战员帮助修建东平湖库区小安山隔堤。至年底，东平湖围堤工程全面竣工。改建后的东平湖水库，蓄水面积由原来931平方公里，缩减为632平方公里，水位46米时，蓄水量由32.3亿立方米，扩大为40亿立方米。至1960年5月，又先后建成了十里堡、徐庄和耿山口进湖闸，陈山口出湖闸东平湖水库建成后，曾先后7次分滞黄河洪水，为确保济南市、津浦铁路、胜利油田以及黄河下游两岸人民生命财产安全起到重要保障作用。东平湖库区移民群众牺牲自我，保全大局，做出重大贡献。1958年开始动员库区村庄移民，至1960年7月试蓄洪，全县共计迁出1.69万户，8.25万人，成为山东省第一、全国第二移民大县。