小学堂1903年(清光绪二十九年)，清政府颁布“癸卯学制”。翌年，于黄县士乡书院创建第一所官立高等小学堂，学生29人，李茂棠任堂长。继后，开明士绅及留日归国有识之士捐资筹金，兴办新学。1906年(光绪三十二年)，海岱马亭王家王厚庵建公立育英小学堂，为全县最早的公立学堂。赵应秦、赵竹容、李召南等人于黄城西阁外建公益小学堂，王景周任校长。学堂向学生推荐《民报》革命刊物，倡谈革命理论。张锡筠于张家沟建圣泉小学堂。袁丕龄于黄城二圣庙建经正小学堂，时为学生最多的学堂。王叔鹤于菜园泊建开成第一、第二小学堂。东江格庄赵镒斋建崇正小学堂。遇家村李政卿、李印卿建东川小学堂。1907年(光绪三十三年)，徐镜心委其兄徐镜清和堂弟徐镜古于黄山馆前徐家村建明新小学堂、坤元女学堂。坤元女学堂是黄县第一所女子学校，校长刁蕴兰。松岚村建日慎小学堂。至1908年(光绪三十四年)，全县共建学堂30所，学生1300余人。1911年(宣统三年)，孙步青建中村尚德小学堂。张彦忱建洼里小学堂。王命官于石良集建滨黄小学堂。加之各区乡先后建立的小学堂，全县立案初等、高等及初、高合设两等小学堂共66所，学生增至2600余人。
是时，美国传教士也在黄境办学。1904年(光绪三十年)，于小栾家疃东北八角楼设哈约翰女子学校。1909年(宣统元年)，崇实学校设小学部。1911年(宣统二年)，于小栾家疃设立本小学。四乡也间有教会小学。
民国小学1912年民国建立后，全县教育除旧布新，扫除封建余习，改学堂为学校。至1915年，全县已有国民小学校245所，其中女校16所。尚存公私立两等小学堂23所，其中女学堂3所。1919年，全县划为146个学区，国民小学校达293所，其中女校17所。仍有两等小学堂31所。全县学龄儿童49433人，已入国民学校或代用国民学校的学生13849人，入学率为28%。
民国时期，县内因经济发展不平衡，东南山区地瘠民穷，教育较为落后。同时因办学经费多为个人捐助和筹谋资金，全县学校多半区立其名，而私立其实。各校成绩难得平衡发展，多数学校由于办学者热心，成绩斐然。1921年间，诸由观集王殿魁、王佩珍夫妇借瓦房3间，操场1处，捐洋120元，延请学者为师，兴办女学，不收学金。功课完备，校规井然，王佩珍亲自授课，受国民政府教育部导视表彰。冶基马万金儿媳魏氏，热心教育事业，马万金自立学校，招女生20人，命儿媳任教。莱山教育会长朱全，久任第一女学校校长兼教员，每当冬令，招集失学子弟开设夜班，并为校中备灯火，四五年间成绩显著。北涧村民王梦详捐京钱5000吊修校舍10余间。张家沟村张锡筠，年逾花甲，为创圣泉小学捐资甚巨。又为振兴义乐乡学务，病逝前遗嘱捐大洋500元。1928年，全县立案学校185所。翌年，全县划为6个学区，经合并，全县有国民完全小学37所，国民初级小学369所，私立初级小学8所，学生达21029人，入学率43％。1932年，全县划为10个学区，每学区设完全小学，乡设初级小学(多者7所，少者1所)，在学儿童35458人，入学率达65％，其中女生占15％。全县平均每3平方公里有初级小学1所，每30平方公里有完全小学1所。
1936年7月，黄县奉令设二年制短期小学40所，招收失学青少年读书，学生可半日学习，半日劳动，不交学费。时有学生2365人，教员40人。至年底，全县有完全小学43所，高级班59个，学生808人(女生279人)；初级班231个，学生5777人(女生1378人)；教职员工279人(女43人)。全县有初级小学417所，771个班，学生28334人(女生3569人)；教职员工1130人(女79人)。全县小学总计460所，高初级1593个班，学生34919人，教职员1409人。学龄儿童49833人，入学率占70%。
日伪小学1939年3月2日日军侵占黄城，全县大部分小学相继停办。日伪政权推行奴化教育，在县城先后办起“县立”第一完全小学(东北隅原凤鸣小学)、第二完全小学(西关文昌庙内原新民小学)、第三完全小学(南关蚂神庙内原志正小学)和“县立”模范小学(二圣庙原经正小学)。在龙口设河北、朝阳、增盛、会贤等完全小学和日本小学(设于兔子庙日本神社，专收日本人子弟)。后又在其据点及附近设置小学。
人民小学黄县抗日民主政府在南部山区根据地开展国防教育，创办游击学校、流动学校、地下学校(亦称灰色学校)，实行义务办学，以推动游击区、争取敌占区的教育事业的发展。1938年9月在黄城阳创办鲁迅小学，招生192人，学生多来自文登、荣成、招远、莱阳，门宏任校长。1939年9月在东修家创办第一县立小学，招生约40人，柳条任校长。至年底，黄县革命根据地共有完全小学7所，初级小学148所。1940年5月县立大傅家小学建立，王仞千任校长。9月，县立朱家小学建立，王展敬任校长。南邢家、鲁家沟县立小学也相继建立。1942年，游击区学校达91所，学生5230人，争取敌占区学校96所，学生8101人。至1944年，黄县革命根据地每个行政村均设公办小学1所，每个区有3至5所公办中心小学。是年10月，小学实行民办公助，推行“庄户学校”经验，师生一面学习，一面生产，积极参加抗日宣传。1945年黄城解放，小学教育日趋正规。全县有中心小学44所，完全小学34所，初级小学406所。高级班128个，初级班691个。未设立小学的262个村庄儿童，到邻村上学。
1947年9月，国民党军进攻胶东，学校被迫停课(正式宣布停办是1948年元月30日)。1948年3月，国民党军溃逃。10月，黄县、龙口市小学陆续复学。12月，黄县复学207所，复学率为54%。龙口市复学110所，复学率为68%。1949年，全县(不含龙口市)有完全小学62所，初级小学293所。高年级学生4662人，初年级学生31849人，计35511人，适龄儿童入学率为61%。
建国后，小学教育全面恢复，按照两条腿走路的办学方针，公办、民办并举。至1953年，全县有完全小学70所，初级小学298所，在校学生57810人，入学率达88%。1958年8月，冶基、黄城集、乡城、中村、七甲等8所完全小学各附设2个初中一年级班，翌年8月并入附近中学。1963年经过调整，全县有公办小学432所，其中完全小学81所，高级班418个，学生17323人；初级班700个，学生28274人。民办学校68所，628个班，高年级学生427人，初年级学生26523人。总计500所，在校学生72120人。民办学校学生占公办学校学生数的57%。1965年推行半工半读教育，始办工读小学229所，入学学生4000余人。是年，全县学龄儿童入学率达93%。1966年6月“文化大革命”开始，全县小学先后停课。1968年，在“小学不出村，中学不出队”的口号下，原完全小学和部分初级小学改办成联中或九年制学校(小学到高中)，村村办起小学。1978年，经过拨乱反正，全县设小学499所，1993个班，学生68980人，入学率达99%。
1980年，全县小学开始建立健全普及初等教育行政管理档案。对学前儿童、学龄儿童、少年儿童、在校学生毕业考试成绩、盲聋哑痴呆儿童和学生流动情况分别造册、整理。学校教职工，实行五包五查岗位责任制，即领导干部包入学率，班主任包巩固率，任文化课教师包及格率和优秀率，任体育课教师包体育达标率；每学期初检查入学率，学期中检查巩固率，学期末检查及格率、优秀率和达标率，保证“学生进得来，留得住，学得好”。经合理布局，1983年全县685个自然村，设小学427所，教学班1815个，在校学生54977人。1984年1月，经山东省人民政府检查验收，入学率达到99.6%，巩固率达到99.9%，毕业率达到98.6％，普及率达到99.9%。毕业班语文及格率为99.8%，数学及格率为98.5%。“四率”均达到或超过国家、省规定标准，是全省第一个批准为普及初等教育合格县。1986年9月，国家教委授予黄县“基础教育先进县”称号。小学设点几经调整，1990年，全市有276所小学，在校学生48170人，占全市人口80.4‰。