清末，初等教育的实施组织称小学堂。清光绪二十四年(1898)，临清开办小学堂1处，是临清有小学教育之始。清光绪二十八年(1902)，清廷颁发《钦定学堂章程》，小学堂才逐渐发展。至清光绪三十年(1904)，小学堂增至57处，加之半日学堂10处，简易学堂3处，共计61处。清宣统三年(1911)，小学堂一律定名为初等小学堂。是年，临清共有初等小学堂63处，有学生849人。
民国元年(1912)，初等小学堂改称初级小学校，仍为63处、学生1100名。民国8年(1919)，学校增至170处、学生3963名。民国19年(1930)，临清有初级小学242处(其中私立48处)、学生7943人；有完全小学10处(其中私立两处)、学生522人。当年共有学龄儿童31132人、就学儿童8465人，入学率为27.2％。民国22年(1933)，全县划分为十个学区，有初级小学300处(其中私立小学1处)、学生12678人；有完全小学11处(其中私立两处)、学生1708人，当年共有学龄儿童37029人、就学儿童14386人，入学率为38.8％。
民国26年(1937)“七七事变”后，日军侵占临清，部分小学被迫停办。民国30年(1941)，全县初级小学减为161处、学生5082人；完全小学10处、学生1893人。
抗战期间，于1939年首先在马尔寨(现属河北省临西县)创办第一所抗日高小，严德功任校长；有教师1人、学生50余人。相继又发展5处抗日高小，分别设立于下堡寺(颜菊清为校长)、姜庄(任武洲为校长)、田庄(张金三为校长)、范八里(郝勇为校长)、小芦(杨笑一为校长)。至1945年，有抗日初、高小120处、学生540余人。
1945年9月，临清解放，政府积极兴办地方教育事业，村村办小学，成立儿童团，一边学习文化，一边宣传土地改革运动。是年10月，临清县第三完小在城南洼里创办。影响较大的监生庄儿童团也于1946年7月建立。为团结知识分子，发展教育事业，政府多次召开知识分子座谈会，举办小学教师训练班，小学教育迅速发展。至1949年建国时，临清城区有完全小学2处、中心小学3处、初级小学12处，共有教师77人、学生2705人。临清镇和临清县有小学182处、教职工557人、学生20009人。
建国后，小学教育有新的发展。至1953年，临清共有小学221处、教职工703人、学生25489人。1958年，由于受左倾错误的影响，小学教育一度盲目发展。1962年，遵照“调整、巩固、充实、提高”的八字方针，对全县小学教育进行整顿，小学教育逐渐得到巩固和稳步发展。1964年实行“两种教育制度”，国家办学与群众办学并举，积极发展耕读小学。至1965年，全县共有公办小学493处、耕读小学522处(班)、学生68684人、教职工1588人。此后，通过合班并校，调整为543处。
“文化大革命”初期，小学教育受到破坏。先是停课“闹革命”，后是农村小学一律下放到大队管理，学校秩序混乱，教学质量下降。
70年代初，临清一度兴起群众办学的热潮，城内一些厂办小学相继创立。
1978年以后，小学教育逐步得到发展，并把普及小学教育作为农村工作的重点。1983年确立城镇第一小学为市实验小学，各公社都建立中心小学。1986年普及小学教育，经省政府检查验收，“四率”(入学率、巩固率、合格率、毕业率)及“办学条件”分别达到部颁标准和省政府的规定。同年7月1日，国家颁布《中华人民共和国义务教育法》，自1988～1989年学年度开始，全市分期分批着手实施九年义务教育。至1990年，全市共有小学516处、教职工302人、学生60280人，入学率为98％。
私立武训小学校 光绪三十一年(1905)，清廷推行新政，停科举，兴学堂。武训创设的御史巷义塾奉令改称武训小学堂。民国年间校舍简易。民国元年(1912)，易名为私立武训初级小学校。民国7年(1918)，又易名为私立武训高、初两等小学校。民国10年(1921)，因学生增多，班级扩充，当年8月买校东邻铺房宅基1处，东南邻房宅基地1处。民国11年，(1922)，建修学校大门、教室、寝室共计40余间。民国17年(1928)，奉令改称临清私立武训小学校。同年，还在校内“尉起楼”下树起武训兴学碑及新校舍落成纪念碑。至民国22年(1933)，武训小学已有基金14600元、学田385亩、校舍76间，另有各类教具937件。此时，有高初级学生7班，计313人。
民国26年(1937)，日军侵占临清后，校园一度被日本侵略军占据，武训小学被迫迁至大寺西，学生减为4个班。1945年临清解放后，学校改为公办，校名为临清武训完全小学校。
民国元年(1912)至民国21年(1932)，王丕显任校长；民国21年(1932)至民国26年(1937)，郭金堂任校长；民国26年(1937)至民国34年(1945)，冀竹怡任校长。学校行政组织为：校长之下设四股三委，即教务股、训育股、事务股、研究股及经费稽查委员会、津贴贫苦学生委员会和特种委员会。此外尚有校董会。曾在学校任校董的有韩纯一、张自忠、马鸿逵、沙明远、车震、孙宝贤(孙东阁)、张元亨(张乾一)、潘云龙、赵仁泉20余人。学校以“发扬武训行乞兴学教育贫苦子弟之伟大精神”为办学宗旨。为此，首任校长王丕显编有校歌：“试看吾校榜门书武训，师生济济奋精神，追慰艰难缔造人，后人得庇前人阴，桃李四时春，校与武君同不朽，千秋教泽新。”
艾寨武训完小艾寨武训完全小学的前身为武训与了证合作创办的杨二庄义塾。清宣统年间改为私立武训初等小学堂。民国初，改称私立武训小学校。民国14年(1925)，经馆陶县教育局长郝介眉允许，由艾寨张耀宗筹办，将杨二庄私立武训小学校迁至艾寨张氏家祠，改名为“艾寨武训完小”(艾寨今属路庄乡)。
民国15年(1926)，学校招生授课，张善守为校长。后为扩充校院，添置西院一所。民国17年(1928)，将娘娘庙和关帝庙拆除以扩充校舍。民国23年(1934)春，由馆陶县各机关募大洋千余元，于村西街添购闲宅一所，计7.2亩，遂建校舍13间。
民国26年(1937)，抗日战争爆发，学校停办。直至1948年，鲁西北全部解放，艾寨武训完小才得以恢复和发展。
艾寨武训完小 招收学生不分贫富，不分男女，不收学费。高小招收初小毕业生，严格考试，择优录取。其校训是：“世风日下，人心不古。社会方面，往往以欺诈为聪敏，以浮华为文明，望诸生共勉旃。”民国15年(1926年)至民国26年(1937年)停办。历时11年，属私立学校，其间，共招收初小10班、高小8班，培养学生500余人。
回民育才小学 回民育才小学成立于民国初年，初为私立清真两等小学校，校址在东礼拜寺。民国6年(1917)，改为模范两等小学校，潘似江为校长，校址在老礼拜寺。民国17年(1928年)秋，国民革命军第二集团军第十七师师长马鸿逵捐洋两千元，会同回民各富商共捐资五千元，扩充学校，易名为私立育才小学。是年11月，招生开学。招收学生三班，陈子龄为校长。
民国20年(1931)春，由县长马锐、教育局长潘云龙提倡，募捐两千元，在油篓巷购置民宅一处，作为永久校址。并打破宗教界限，聘请回汉校董13人，汉人崔梯云为校长。招收学生不分畴域，不分男女，回汉兼收。是年，有学生110人，分为高级一班，初级两班。学校有礼堂3间、教室12间、办公室9间、寝室6间，此外尚有阅览室、成绩室、游艺室等。至民国21年(1932)，学生已增至154人。学校一直延续到1945年抗日战争胜利，方改名为“本斋小学”。
大辛庄抗日小学 大辛庄抗日小学创办于1939年。当时，日本侵略军第三次侵占临清，城东南一带被杂牌军吴连杰、齐子修盘据。中共鲁西北特委成员郭少英、颜竹林为支持地方党组织开展地下工作，继续搞好抗日救亡宣传活动，派王瑞征、孙景仰深入敌战区大辛庄创办小学。校址在王瑞征租赁的一所大院内，有学生30余人，为一至四年级复式班。国语课本是抗战前上海世界书局出版的小学教科书。日军扫荡时，就把课本收藏起来，让学生疏散开。有这个学校作掩护，中共县、区委领导干部经常到学校集会，开展抗日救亡宣传活动。秘密教给学生抗日歌曲，其中一首《反扫荡》，歌词为：“咳!房子烧了，东西没了，只剩下一片焦土几块瓦!还有那满地骨头架!牛也宰了，田也荒了，我们的父母兄弟谁杀了？可恨那日本鬼，打咱就打，牙还牙，槌碰槌，抗战不变卦，拼吧，拼个你死我活!干吧，干他个流水落花。天不怕，地不怕，大刀阔斧向前杀，杀!”该校还以发扬武训办学精神为掩护，不向学生收学费和书费，受到当地群众的支持。
1941年冬，国民党临南团夜袭大辛庄，学校被迫停办。
洼里完小 1945年9月临清解放。县政府教育科委派政府办公室工作人员车泽生等到城南创办洼里完小，即县立第三完小。是年10月，招生开学。校舍是被斗地主的30间瓦房的院落，教师是本村的私塾先生。54名初小毕业生编为高级班，后又招收一至四年级，约计170人。
完小创办之始张金三为校长；1947年初，张金三随军南下，车泽生任校长；1947年秋，毕成功任校长，随后将原来的一个高级班按成绩分成甲、乙两个班。1948年秋，根据上级决定，将临清县立第三完小迁至大辛庄，洼里遂改为初级小学。1949年春，又重办高级班，成为完全小学。
校训是：“学校一切为解放战争服务，时刻准备着，到祖国最需要的地方去，不惜洒热血，抛头颅”。师生教学之余，还配合农会，除奸反霸，实行增资增佃，减租减息，积极支援了当时的土地改革运动。
实验小学 实验小学前身是临清私立武训小学。于1945年9月改为公办，后改称临清武训完全小学。建国后，校名数易。1951年7月，武训完全小学易名为临清镇立第一小学。1958年10月1日，改名为临清市青年路小学。1969年，又易名为临清城镇第一小学。1983年6月1日，定名为临清市实验小学，隶属市教育局。
校内行政机构健全。校长、副校长之下设教导、事务二处，并各设主任(或副主任)1人。
1945年9月，学校由私立改为公办以来，校舍屡有增添，规模渐次扩大。1946年，学校有高小4班、初小10班、学生900余人。同年11月，附设简易师范1班，招收学生40余名。1949年，又附设第二期简易师范1班，招收学生40余名(后合并于县师)。学校规模最大时，有28个教学班、1300余名学生。1968年，学校开始附设初中班，至1977年7月，最后一级初中学生毕业，共招收初中九级，计18班、学生900余名。1984年11月，两层18间教学楼落成。1985年，开始招收学前班。1988年，武训纪念馆落成，并为武训雕塑石膏像。至1990年，全校共有15个教学班、学生1308名；三个学前班、学前儿童400余名；教职工66名。计有教室54间、办公室117间、住室78间、仪器室两间、武训纪念馆3间、其他3间，共计151间，整个校园占地9.5亩。
1983年改为实验小学以来，教师王学军、阮会之进行了儿童作文早期训练的教改实验，从低年级就注重作文教学。1985年9月以来，教师娄金湘又在低年级进行培养学生发散性思维能力的教学试验，在一学期内，讲完全学年的课程。近年来，又借鉴布卢姆教学理论，开展目标教学实验。以上各项实验，经过验收，均取得了良好效果。
1984年，实验小学经省教育厅和省体委验收，被评为山东省体育传统项目(田径)挂牌学校，并发给荣誉证书，每年拨给体育活动补助费300元。
本斋小学 本斋小学，其前身为私立育才小学，校址在桃园街(原油篓巷)。抗日战争时期，回民支队负责人马本斋为国捐躯。为纪念这位抗日民族英雄，1945年抗日战争胜利后，将育才小学正式改为本斋小学。1950年，学校易名临清城关镇第四中心小学。1966年，学校改为东风小学。1969年，学校又改为临清城关第九小学。1985年1月，由市民委和市教育局共同提议，并经市政府批准，恢复本斋小学。此时，全校教职工29人，共有11个教学班、学生573人，回汉兼收，回族学生占70％，另有一个学前幼儿班，有学前儿童50人。
1990年，全校共有教职工34人。有一至五年级9个教学班、学生310名。有学前幼儿班1个、学前儿童50名。
康庄小学 康庄小学历史悠久，校址多次搬迁。民国8年(1919)创办，学校命名为康庄高初两等小学校。校址设在康庄镇原关帝庙，刘荣光、刘虎臣先后任校长。民国17年(1928)，学校归属清平县教育科，易名为清平县立第一高级小学，文敬轩任校长。民国18年(1929)，校址迁至真武庙，王秀三、吕树芝、杜德纯先后任校长。民国26年(1937)“七七事变”后，学校被迫停办。此后，由于战乱，学校时办时停。民国29年(1940年)，学校一度恢复，易名为康庄完全小学校，刘月如为校长。
临清解放后，清平县改名为永智县。1946年学校易名为永智第一小学。建国后，学校先后改名为康庄女子完全小学和康庄高级小学。1956年，康庄归属临清后，原康庄高级小学改为康庄第一小学。原女子完全小学改为康庄第二小学。此时，两个小学各有12个教学班、1000余名学生。1958年春，康庄第一、二小学与王贯庄小学合并，改名为康庄完全小学，直接归属县教育局。1968年底，学校下放到大队办，学校由校长负责制改为贫下中农管理。1970年，学校开始附设初中班，至1977年，共招收初中15个班，毕业学生680余人，其中，小学一、二年级分到各街道来办。
1977年恢复校长制。至1990年，学校一直保持18个教学班、800余名学生。