石横得名于该村邻近一条大山沟，而得名“石沟”。据史料载：宋朝为石沟镇，金代因一陨石降落在村北，横置于山坡上而改为石横。民国时为肥城县七区，后为石横乡，1958年成立石横公社，1984年1月为石横区，1985年11月改为石横镇至今。
石横历史悠久，文物古迹众多，较为著名的有舜王冢、舜帝祠、霸王墓、关公“风雨竹”、“四眼子井”、泰山显灵宫、福山寺、圣佛寺、左丘明墓、古银杏树、隆庄天主教堂等。石横又是武术之乡，历史上有“枪不扎石横”之说，“徐家枪、梅家棍、邹家皮锤不用问”的歌谣流传甚广。石横曾是革命根据地，徐向前元帅、肖华将军曾在这里指挥过战斗。