五祖寺始建于唐永微五年（公元年），唐咸亨三年（年）建成，由禅宗五祖大禅师弘忍创建。五祖寺位于湖北省黄梅县东12公里的东山，当时称东山寺，后世改称五祖寺。
相传，禅宗自古以来便有传法传衣钵的的传承之法，当到弘忍禅师要传法的时候，传令当时还叫东山寺的五祖寺所有僧众：所有人作一首禅诗，谁写的最好便传法和衣钵与此人。
神秀禅师作为大弟子，并且修行刻苦，立马就作出了“身是菩提树，心如明镜台。时时勤拂拭，莫使有尘埃。”这首诗的意思是众生的身体就是一棵觉悟的智慧树，众生的心灵就象一座明亮的台镜，要时时不断地将它掸拂擦试，不让它被尘垢污染障蔽了光明的本性。
神秀禅师的诗在众弟子中是最好的，充分地阐述了佛家弟子的“明”与“净”，谓之真见道，表达以及对于修佛修心的坚持与谨慎。对于衣钵的传承神秀禅师可谓是伸手可得。
谁知道，这时候当时只是烧火的小沙弥的惠能禅师居然也作出了一首诗，这个小沙弥并不识字，让别人帮他写下：“菩提本无树，明镜亦非台。佛性常清净，何处有尘埃！”
惠能禅师的诗一下子就便弘忍禅师看重了，跟他自己的偈语“有情来下种，因地果还生。无情既无种。无性亦无生。”有着异曲同工之意，都是阐述了佛家的空与相，都可谓之相见到。
弘忍禅师决定传法与衣钵于惠能禅师！
那为什么六祖大师的一句偈颂，弘忍大师就把衣钵传给了慧能呢？因为六祖的偈颂符合真见道；神秀大师也是一个很用功的人，但是他是带相修行，执着于带相观空。还没有打破相的执着。你看“时时勤拂拭，莫使惹尘埃”，我们这个真如本性比作镜子。一弄脏了我就把他擦干净，这个顶多就是加行位了，带相观空！
但是六祖大师就不一样了，本来无一物，何处惹尘埃？连镜子都不可的，那就是离一切相即为菩萨。读过金刚经的人都知道，离一切相才是菩萨。真就是真如本性，相就是实相，只有你带相观空，就是资粮位的菩萨所以他们两个好低立判，惠能禅师当仁不让获得传承。
惠能三更被弘忍禅师叫到房中，传法与衣钵，并连夜亲自送他过江出逃，以防受到神秀禅师的迫害，同时要求从惠能之后只传法不传衣钵。
果然，神秀禅师带人追杀。惠能一位弟子神会在《神会语录》中记述：其夜，道至九江驿，当时的船渡江。大师看过江，当夜却归至本山，众人并不知觉。意思是当夜惠能禅师赶到九江驿渡传过江，神秀看到惠能已经过江，只能当夜回到山上。
之后的故事就是，五祖弘忍禅师圆寂，众僧已经在追杀惠能，惠能禅师避难藏身于四会龙甫镇营脚村扶卢山，在猎人队伍中隐姓埋名十六年，直到神秀禅师被武则天奉为国师，惠能禅师才开始现身四处说法，最后在广东省肇庆市四会贞山建立六祖惠能寺，并牢记师傅的要求不再传衣钵只传佛法。
自此，五祖传六祖，六祖永不传。