胶州小学教育始于1900年(清光绪二十六年)，由瑞典浸信会牧师任其斐在胶城大井街创办了胶州私立瑞华小学，并实行男女学生同校上课。翌年，胶州知州张承燮奉命在胶城南门里创办了达材学堂，同年招收内外班学生各20名。1905年，达材学堂易名为胶州高等小学堂。1902年，胶州知州余则达添设义塾3处，废科举后均改为蒙养学堂。1906年，胶州知州德林添设蒙养学堂7处。1913年，胶州小学堂改称胶县小学校。是年8月，胶县女子初等小学校创建，址在旧州署。1917年，天主教方济哥会波兰修女马明义在县城北围子门里，主办了胶县私立爱德女子小学。1915年，胶县初等小学改称国民学校，全县公私立小学已发展到69处，在校学生达1696人。1923年胶县县立、区立和公立、私立学校已有200余处，尔后，因战事连绵，胶县的小学教育曾一度衰落。至1929年，胶县社会秩序日趋稳定，小学教育方见复苏。1931年，胶县县政府成立了义务教育委员会，开始制定实施胶县义务教育计划纲要。筹办集镇初级小学，完全小学增设初小班，初级小学充实学额，使全县小学发展到225处，在校学生达8445人。至1937年，小学校总数已达353处。1938年因日军入侵，城内学校一度停办，城外小学校或停办或改办。1939年，民国政府(设良乡)令其所辖区域内的各级小学一律改称县立小学。1940年，日伪胶州行政办事处根据日伪青岛特别市公署训令，将所辖的原县立各级小学校一律改称市立小学校。至1944年，日伪胶州行政办事处所辖之市立、公立和私立小学校共有169处，在校学生13303人。1942年，姜黎川以原第三小学区的小高为中心成立了官办小学。1943年，共产党抗日组织在胶县北乡发展对敌武装斗争，同时在王珠成立了联防小学。至1945年，胶县解放区建立4处联防小学。
1945年(民国34年)，抗日战争胜利后，日伪胶州行政办事处所辖的市立各小学名称分别改为国民学校和中心国民学校。1948年，胶县民主政府教育科根据滨北专署教育科的指示，开始在乡村试办民办小学。至1949年，胶县小学总数已恢复到220处，在校学生14712人，其中民办小学18处，学生688人。
1950年，群众学习热情高涨，到年底全县小学已达226处(其中完小15处)，在校学生已有31111人，占学龄儿童总数的50％。1953年，胶州专署教育科在胶城创办了胶州烈士子女小学，招收学生144人。1957年，胶县教育局采取国家办学与群众集体办学相结合，全日制、半日制和巡回二部制等多种形式并举的方针，加速小学教育的发展。全县较大的村庄普遍建立了学校，每5公里见方就有一处完全小学。胶莱、沽河、麻湾和联屯等区乡乡有完小。1959年，胶县教育局开始在各公社设置中心小学。1963年，胶县文教局根据昌潍专署文教工作会议精神，从已有的170处公办全日制小学中，确定了20处为“试行全日制暂行工作条例(草案)和执行教育部规定的全日制12年制中小学教学计划的学校”，即定点学校。1964年，胶县开始举办简易小学。共467处，514个班，学生15785人。其中全日制班72个，半日制班133个，早、午、晚班309个。因此，胶县学龄儿童的入学率由1963年的46．1％上升到65％。同年，贯彻专区工(耕)读教育工作会议精神，胶县274个大队新办了工(耕)读小学。1972年，胶县革命委员会文教处开展普及五年制小学教育。翌年，全县小学达720处，在校学生达97127人(其中女生44604人)。1975年，全县共有小学523处，在校学生80974人，占学龄儿童总数(85201人)的95．04％。1983年，全县学龄儿童数下降(因推行计划生育政策)到64595人。其中已入学62615人，占学龄儿童总数的96．9％。1984年8月，全县小学教育经山东省教育厅检查验收，普及率、入学率、巩固率和合格率合格，列为山东省首批普及小学教育县。1986年，全县各小学贯彻《中华人民共和国义务教育法》。
1987年，全县有小学457处(其中教育局直属小学1处，师范附属小学1处，乡镇中心小学20处，学区小学111处)，在校学生72046人(其中女生34600人)。
胶州市小学处数及在校生统计表
┏━━━━━━┯━━━━━━━┯━━━━━━━━┯━━━━━┯━━━━━━━┯━━━━━┓
┃ 年度 │ 处数 │ 在校生 │ 年度 │ 处数 │ 在校生 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1902 │ 1 │ 40 │ 1958 │ │ 55386 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1915 │ 69 │ 1696 │ 1959 │ 798 │ 67046 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1928 │ 103 │ 3179 │ 1960 │ 770 │ 68978 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1929 │ 115 │ 4030 │ 1961 │ 517 │ 35814 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1930 │ 149 │ 5320 │ 1962 │ 534 │ 40483 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1931 │ 225 │ 8445 │ 1964 │ 829 │ 76034 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1932 │ │ 9248 │ 1965 │ 710 │ 56632 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1937 │ 353 │ │ 1973 │ 720 │ 97127 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1940 │ 118 │ 5435 │ 1975 │ 523 │ 80974 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1941 │ 109 │ 6300 │ 1976 │ 732 │ 98738 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1942 │ 154 │ 11361 │ 1977 │ │ 94384 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1943 │ 159 │ 11937 │ 1978 │ 721 │ 94748 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1944 │ 168 │ 13303 │ 1979 │ 706 │ 94364 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1950 │ 226 │ 31111 │ 1980 │ │ 94358 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1951 │ 271 │ 31870 │ 1981 │ │ 94376 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1952 │ 33l │ 36898 │ 1982 │ │ 88383 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1953 │ 372 │ 43786 │ 1983 │ 628 │ 88040 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1954 │ 401 │ 49474 │ 1984 │ 587 │ 88095 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1955 │ 395 │ 47282 │ 1985 │ 545 │ 80733 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1956 │ 362 │ 50637 │ 1986 │ 475 │ 75708 ┃
┠──────┼───────┼────────┼─────┼───────┼─────┨
┃ 1957 │ │ 51092 │ 1987 │ 457 │ 72046 ┃
┗━━━━━━┷━━━━━━━┷━━━━━━━━┷━━━━━┷━━━━━━━┷━━━━━┛