大羊惨案，发生在东平县大羊乡政府驻地，东经116°29′，北纬36°03′。
1939年5月22日傍晚，日军一部，从平阴黄山据点出发，东去肥城县陆房一带寻找八路军踪迹，因为认定大羊村住过八路军，日军涌入村内，狂叫着抓八路。年仅14岁的侯金厂未来得及跑掉，被日军抓住。日军逼问他八路哪里去了？这个一脸稚气的孩子不知所措战战兢兢地说：“不知道。”日军便用枪托把他打的嗷嗷叫唤，接着又用刺刀将他刺死在大街上。南门里尧家茶馆里的尧凤路也未及时逃走，被日军刺死在茶馆院内。22岁的侯庆才掩护着母亲跑出村，但自己却在南门外被日军追上，日军不问青红皂白，就向他连刺了三刀，侯庆才倒在血泊之中，但因未刺中要害，于半夜又苏醒过来，后经几个月的治疗方幸免一死。
随着夜幕的降临，日军匆忙向东窜去。第二天上午9点多钟，大羊街的村民陆续返回，尚未来得及掩埋掉死者的尸体，就发现日军又向大羊窜来。村民们只好再次离开村子躲进荒山野外。日军进入大羊村后便挨家挨户地搜查。这群兽兵见人就杀，72岁的纪凤同老人无力行走，呆在家里，日军将这位风烛残年的老人拖在地上折磨了个半死，最后用刺刀将她捅死。日军窜进村民张其道家中，已60多岁的张母躲进厕所里亦未能幸免，把老人打的死去活来，这群野兽仍不肯罢休，又用圆锥形仓盖把老人罩住，四周堆上柴草后，将老人活活烧死。傍晚时分，躲在村外南山坡上的村民侯家兴趁夜幕悄悄进村去救火，不幸被日军抓住，日军将他打的遍体鳞伤后，投入土井中，接着投下燃烧着的柴禾，又用一口大锅将井扣住，把侯家兴活活闷死在井里。
这次惨案，日军共杀害无辜村民8人，打伤10余人，抢走财物不计其数，烧毁民房420余间，树木上万棵，使这一带较为繁华的大羊村变成一片废墟。2007年，中共东平县委为记录日军这一暴行，在该村立纪念碑，作为党史教育基地。