封建社会时期，各朝代均设有土地管理机构。1912-1949年，土地管理均由民政(或内政)部门负责。
1949-1986年，山东省土地管理体制为多头分散管理。1986年7月，省土地管理局成立，随后，各市(地)、县(市、区)土地管理机构相继建立。至此，山东有省、市、县、乡四级土地管理机构，形成城乡地政统一管理体制。2000年3月，省国土资源厅成立，统一管理全省土地、矿产资源。2004年，国务院确定实行省级以下国土资源垂直管理体制，省级国土资源部门维持现状不变；市、县(市、区)国土资源部门的领导班子由上一级国土资源部门党组任免，干部由上一级国土资源部门和当地党委组织部门共同管理，以上一级国土资源部门管理为主，乡镇国土资源所的机构编制由县(市、区)政府管理，县(市、区)可以根据实际情况和工作需要，按乡镇或区域设置国土资源所，为县(市、区)国土资源部门的派出机构。但市、县(市、区)国土资源部门仍为当地政府的工作部门，人员编制由地方政府管理，国土资源部门领导班子的任免需征求地方党委政府的意见。同时，为适应土地管理事业的发展，全省不断健全完善省、市、县三级土地事业单位，并成立了山东土地学会、山东省土地估价师协会两个社会团体。