吕伯奢祠原来位于今郑州市中牟县城北的大吕村，是为东汉末蒙冤死于曹操之手的义士吕伯奢而修建的，大吕村就是吕伯奢的故里。

　　东汉末年，曹操在洛阳刺杀奸贼董卓未遂而逃离洛阳，路经中牟县，当时的中牟县令陈宫感其忠义，从其而逃，两人来到大吕村时，已经是夜幕降临，曹操就和陈宫投奔居住在这里的吕伯奢。吕伯奢是曹操的义叔，非常热情，他说，家中没有好酒，容往西村沽酒一樽来相待，说完，匆匆上驴而去。曹操和陈宫坐在屋里等了一会儿，听见有人说，捆住之后再杀，如何？曹操就怀疑吕伯奢要杀自己，就说，今若不先下手，必定要遭其擒获。就和陈宫拔剑冲过去，不问男女，见人就杀，连杀了８个人，搜到厨房，见到一头猪被捆而欲杀，这才明白吕家是要杀猪款待他俩。陈宫悔恨地说，孟德（曹操字孟德）多心，误杀好人！曹操拉着陈宫急忙出庄上马而行，刚走了两里多路，见吕伯奢骑驴带着两瓶好酒和许多果菜回来了，看到曹操和陈宫两人，他笑着叫道，贤侄为什么要匆忙离去？我已经吩咐家里人宰一头猪款待你们！曹操也不说话，策马就走，走了几步，忽然拔剑回身，对吕伯奢说，那边来的是谁？吕伯奢回头看时，曹操挥剑把吕伯奢砍杀于驴下。陈宫惊叫道，刚才我们已经错杀了８个人，你为什么又杀了你的义叔？曹操说，吕伯奢到家，见家里人被我们所杀，怎么会和我们罢休？如果率人来追，我们必定遭其所害。

　　后来，中牟县的百姓感念吕伯奢待曹操之诚和死得冤枉，就在大吕村修建了一座吕伯奢祠。