学校清宣统二年(1910)大黄庄(时属蒙阴县)小学建立，为境内最早的小学。旧《蒙阴县志》载：“宣统元年知县沈黻成设简易识字学堂……二年，东乡坦埠、北乡大黄庄、 萧马庄均设立初等小学堂。”1917年9月，改为大黄庄高等小学堂。因课程设置和教学方法与私塾不同，群众称之为“洋学堂”。又载：“民国元年至八年，蒙阴北乡的贾庄、井旺庄、大张庄、旋风峪、鲁村、草埠、小张庄、玉泉寺、汇泉寺、寨子、南岩、丈八丘、王庄先后建有公立小学堂，虽优劣不一，而教育渐期推广。”
1915年，东里店、悦庄、南麻、南安乐等村，办起小学堂。此后，高庄、东沙沟、南流泉、瓜峪、福禄坪峪、梭背岭、二郎庙等地亦办起小学。1920年前，三岔店有小学1处，之后，璞邱、上文坦、北鲍庄、丝窝、南流水等村也先后建立小学。
1912到1924年， 境内较大的村镇均办起小学。1937年，有高级小学7处，初级小学124处。 高级小学是大黄庄、鲁村、南麻、悦庄、东里店、汇泉寺、玉泉寺小学。
抗日战争开始后，学校停办。1938年，中共地下党员齐汇东在鲁村区北官庄首创抗日小学1处，并设农民夜校。国民党山东省政府迁驻东里店后，提出开办学校，发展国民教育。但因时局不定，百姓生活贫困，学校开办很少，只有省府直接拨款的东里、南麻、鲁村、梅家庄子等几处小学办得较正规。1942年，抗日根据地办起一批抗日小学，刘家大峪、刘家旁峪、杨家大峪、官庄、小上峪、淤土地、北通香峪、青冶行、埠前等村办得比较活跃。1943年，境内多为敌伪控制区，抗日学校停办。
1944年5月， 沂源县建立后，县教育科动员在乡知识分子90余人重操教业，对其训练后分配到较大的村庄担任小学教师。 全县共开办小学70余处， 80多个班，2200多名学生。 1946年，全县有小学110处，3500多名学生。1947年夏，国民党军队进攻沂蒙山区，全县教育停办。1948年夏季，教育恢复。1949年全县有初级小学132处，150余个班，学生4228人。是年9月，南安乐小学设高小班1个，收学生40人。1952年底，全县有小学370处，476个班，学生15 500人。由于学校发展迅速，师资和经费缺乏，1953年以巩固为主，停止发展。1955年后，又逐渐发展。1957年，有小学382处，587个班(其中高小班77个) ，学生22000多人。1958年实行“两条腿走路”的办学方针，扩办民办班22 0个，全县达到村村有小学。1960年因生活困难，小学合班并校。 至1962年底，全县共下放和转业公办教师414人，小学减少三分之一。1964年提倡两种教育制度，多种形式办学。全县办起早、午、晚班和山头班等800多个，统称工读小学。1965年，全县工读小学发展到633处。1966年“文化大革命”开始后，学生停课闹革命，学校处于混乱状态。1968年受极左错误影响，小学下放到大队办， 公办教师回原籍，搞所谓接受贫下中农再教育。213名外籍教师回原籍，大批山村小学改为民办，使教育受到严重破坏。1978年后教育工作重新得到重视。 1990年全县有小学617处， 2088个教学班，学生53273人。学龄儿童入学率98.3％。
学制民国时期，小学是四、二分段制，即小学4年、高小2年。解放后，仍沿用四、二制。1952年推行小学五年一贯制。因师资水平低，又改为四、二制。1966年冬，小学由四、二制改为五年一贯制，儿童7周岁入学，由秋季始业改为春季始业。1974年又改为秋季始业。从1978年教育部颁发《全日制十年制中小学教学计划 (试行草案)》起，全县全日制小学为5年，统一秋季始业。
课程设置1912年，小学设修身、国文、算术、手工、图画、唱歌、体操课，女生加缝纫课。高小设修身、国文、算术、英语、历史、地理、理科、手工、图画、唱歌、体操、农业、商业课，女生加缝纫课。1915年，高等小学恢复读经，1922年废止读经，取消修身，增设公民、卫生课，体操改为体育，国文改为国语 (文言文改白话文)。1928年增设三民主义、童子军课目，高小增设职业课目。
抗日战争时期，高小设政治、国语、算术，初小设时事讲话、国语、算术、唱歌等课。
解放初期，小学一、二年级设语文、算术、唱游课，三、四年级设国语、算术、常识、音乐、体育课，五、六年级设语文、算术、历史、地理、自然、音乐、体育课。从四年级开始算术内加珠算课。
1955年9月， 教育部颁发《小学教学计划》，规定小学初级班设语文、算术、常识、体育、唱歌、图画，高级班设语文、算术、地理、历史、自然、体育、唱歌、图画。1958年增添劳动课和周会。“文化大革命”期间，课程设置混乱，主要增设政治课和乡土教材，1981年执行教育部颁发的《全日制五年制教学计划》，除保留原课程外，增添思想品德课。至1990年未变。
教学旧时私塾教学，完全是注入式，学生死记硬背。民国时期，开始注意启发式教学，但仍注重于“教”。解放后，强调启发式、理论联系实际的教学方法。废除体罚，实行民主教学。1953年，学习苏联的教学经验，以凯洛夫《教育学》为主要教学理论，推广“五环教学法”，采用“五级记分制”，取得一定效果，但也出现生搬硬套的教条主义偏向。1958年，贯彻“教育为无产阶级政治服务，与生产劳动相结合”的方针，强调理论联系实际。但由于劳动过多，影响学生文化知识的学习。1976年，重新贯彻以教学为主的原则，加强备课，改进课堂教学，开展教材教法的研究。1988年，学习运用“美国布鲁姆教学法”，注重启发学生智力，培养学生能力。
考试民国时期，对小学生进行月考、期考、学年考试和毕业考试，以百分制记分。学校招生依考生成绩，择优录取。新中国建立后，仍沿用“百分制记分法”。1953至1958年采用“五级制记分法” 。5分最优，3分及格，最低1分。“文化大革命” 期间， 推行开卷考试，让学生看书答题，出现不原思考，照书答题的偏向。1977年，恢复闭卷考试和“百分制记分法”，对德、智、体进行全面考核。至1990年未变。
附：重点小学简介
南安乐小学1915年创建。由南安乐村士绅耿立贤联合附近村庄50多名士绅集资建成。 当年招收学生60名，其中女生3名。教师薪资由沂水县政府开支，学杂费由学田(8亩)收租和学生交纳解决。至1938年，共培养学生400多名，其中女生30名，在该校毕业的耿光波、耿立尊等人，参加革命后分别担任了国家部省级机关重要职务。
经过战乱，校舍几经变迁。1949年春，沂源县人民政府在此基础上建立全县第1处完全小学。初建时6个班，逐渐发展到11个班。1971年改为联中，1983年联中分出，小学始终保持6个班。
沂源县实验小学原名南麻小学，始建于1945年，校址在南麻老街路北。当时只有1个班，1名教师，40个学生。1950年扩建为完小。1952年在南麻西北隅新建校舍。3个高级班迁至新校(即现在校址)，初级班仍在原校，称为“南校”。1972年，南、北两校分立，1978年南麻完小(北校)定为山东省重点小学。1984年改为“沂源县实验小学”。1990年已有24个班，教职员工72人，学生1273人。
学校注意教师队伍的思想建设，涌现出一批优秀教师。1960年，教师张宗波代表学校进京出席全国群英会。特级教师秦洪奎的语文教学多次受到省教学经验交流会的嘉奖。1979年女教师黄连泽被团中央授予“新长征突击手”称号，1982年被评为山东省劳动模范。1983年，女教师吴学爱被评为省“优秀班主任”。1983年，教师李学纪在省数学教学年会上作《在课堂教学中培养学生主动探求知识的习惯》的经验介绍。 教师韩秀娥于1984、1985年3次在临沂地区语文教研会上举行公开课，其中《壁虎》 一课的讲读教学， 被评为1等奖。 1984年，女教师左淑美获山东省“园丁奖”。1986年，教师翟配祥被评为山东省“少先队优秀辅导员”；教导主任翟配和被评为山东省优秀教师。另有5名教师被评为临沂地区优秀教师。
1987年，校长刘乃祺被评为省优秀教师，1989年被评为全国劳动模范，1990年春被列入《中国当代教坛名人辞典》，1990年秋被列入《中国当代教育家大辞典》(香港未来出版社出版)。
由于教师的努力，学生德、智、体全面发展。1978年起，学生升学率在90％以上。学校“少先队”学雷锋小组，连续被省、地、县授予“少先队先进集体”称号。
沂源县小学基本统计表
┌──┬──┬──┬───┬───┬────┬──┐
│年份│学校│班数│在校 │毕业生│学龄儿童│备注│
│ │处数│ │学生数│人数 │入学率％│ │
├──┼──┼──┼───┼───┼────┼──┤
│1949│132 │150 │4228 │ │15.4 │ │
├──┼──┼──┼───┼───┼────┼──┤
│1950│137 │158 │5876 │ │15.9 │ │
├──┼──┼──┼───┼───┼────┼──┤
│1951│262 │333 │7895 │40 │21.1 │ │
└──┴──┴──┴───┴───┴────┴──┘
┌───────────────────────────────┐
│续表 │
├──┬──┬──┬───┬───┬────┬─────────┤
│年份│学校│班数│在校 │毕业生│学龄儿童│备注 │
│ │处数│ │学生数│人数 │入学率％│ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1952│337 │476 │15527 │186 │35 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1953│340 │478 │15271 │329 │32.2 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1954│339 │491 │15578 │1008 │36.8 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1955│344 │496 │15452 │988 │33.4 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1956│369 │563 │20247 │1118 │43.6 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1957│382 │587 │18955 │1319 │37.6 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1958│643 │933 │40155 │1541 │57.9 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1959│476 │1162│36931 │1252 │60.9 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1960│510 │1389│43818 │2004 │65.6 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1961│513 │914 │26245 │1476 │38.6 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1962│465 │774 │21580 │1912 │31.2 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1963│456 │754 │21145 │1394 │31 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1964│441 │822 │25802 │1538 │71 │工读小学班数未在内│
├──┼──┼──┼───┼───┼────┼─────────┤
│1965│531 │994 │29849 │1502 │80 │工读小学班数未在内│
├──┼──┼──┼───┼───┼────┼─────────┤
│1966│543 │ │ │ │ │未有档案资料 │
├──┼──┼──┼───┼───┼────┼─────────┤
│1967│540 │ │ │ │ │未有档案资料 │
├──┼──┼──┼───┼───┼────┼─────────┤
│1968│550 │ │ │ │ │未有档案资料 │
├──┼──┼──┼───┼───┼────┼─────────┤
│1969│554 │ │ │ │ │未有档案资料 │
├──┼──┼──┼───┼───┼────┼─────────┤
│1970│605 │ │44927 │4834 │ │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1971│635 │1944│56564 │5676 │79 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1972│662 │2142│59968 │ │82 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1973│653 │2346│65160 │6411 │85.4 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1974│661 │2452│71425 │6776 │91 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1975│668 │2642│76880 │8570 │98 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1976│605 │2513│76262 │13083 │98 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1977│616 │2484│74995 │12986 │98.3 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1978│615 │8001│75167 │12244 │97 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1979│615 │3004│76062 │12821 │97 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1980│615 │2980│76964 │12004 │96.7 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1981│680 │3008│79132 │11110 │96 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1982│669 │2259│75630 │10995 │96.8 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1983│648 │2285│58296 │11320 │97 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1984│645 │2103│56099 │11453 │95 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1985│625 │2150│56762 │11719 │96.5 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1986│626 │2115│62159 │12949 │98.7 │ │
├──┼──┼──┼───┼───┼────┼─────────┤
│1987│617 │2061│57238 │14121 │97.7 │ │
└──┴──┴──┴───┴───┴────┴─────────┘
┌──┬──┬──┬───┬───┬──┬─┐
│1988│617 │2043│54611 │13611 │98.1│ │
├──┼──┼──┼───┼───┼──┼─┤
│1989│617 │2076│54815 │11808 │98.4│ │
├──┼──┼──┼───┼───┼──┼─┤
│1990│617 │2078│54895 │11811 │98.3│ │
└──┴──┴──┴───┴───┴──┴─┘