台儿庄地区历史悠久，从兰城店乡西兰城店村出土的大汶口文化时代的文物，邳庄乡赵村出土的岳石和龙山文化时代的文物以及龙山文化时代的晒米城遗址证明，在新石器时期，就有人类在这里繁衍生息。
现台儿庄区境域，夏属鄫国，商属偪阳国，西周、春秋因之。公元前563年（鲁襄公十年）晋灭偪阳予宋。尔后，楚灭宋改偪阳国为傅阳县。时，区境西部属傅阳县，东部属兰陵县。秦时为郯郡辖地，西属傅阳县，东属兰陵县。西汉时西部属楚国傅阳县，东属兰祺县。东汉时东部属东海郡氶县，西属彭城国傅阳县。三国时属魏，郡县沿袭东汉。西晋时，先属东海郡，后北部属兰陵郡氶县，西部属彭城国傅阳县。东晋时，北部属兰陵郡氶县，西部属彭城郡。南北朝时属兰陵郡氶县。隋朝时属彭城郡兰陵县。唐朝时属河南道沂州氶县。五代时，先后属后梁、后唐、后晋、后汉、后周，隶属沂州氶县。北宋时属京东东路沂州氶县。金时，先属山东西路，后为河南路邳州兰陵县辖，后改属峄州兰陵县。元时，为山东西路峄州兰陵县辖，东南少部分属邳州武原县。明时，先属山东省济宁府，后为兖州府辖。洪武二年降峄州为峄县。清朝属山东省峄县，现张山子镇、侯孟乡部分地区属滕县。民国时期沿袭清朝，现兰城店乡和邳庄乡之部分地区属兰山县、邳县。
中华人民共和国成立后，1949年10月至1953年8月为山东省兰陵县辖，1953年9月至1960年1月属山东省峄县，1960年1月至1962年5月属枣庄市，1962年6月始设台儿庄区。