商朝时，孤竹国君有两个儿子，大儿子叫伯夷，小儿子叫叔齐。国君非常喜欢小儿子叔齐，经常对别人说：“叔齐很聪明，而且有才能，假如我死了，就让他来做国君吧！”后来，他立下遗嘱，立叔齐为孤竹国国君。但是，叔齐不愿意违背长子继位的规矩，他找到兄长伯夷，请求伯夷来做国君。不管他怎么恳求，伯夷就是不答应，并推辞说：“你做国君是父王的旨意，我们怎么能不遵从父命呢？”伯夷执意不继承王位，叔齐没办法，只好回去了。第二天，一大早，叔齐又去找伯夷，没想到伯夷竟然失踪。原来，伯夷念及手足之情，不愿看到叔齐为难，便不告知任何人，深夜收拾行囊远走他乡，叔齐得知后，执意追寻伯夷而去，二人相遇后，便相约不再回归故里，投奔西岐。不久，武王伐纣，在伯夷叔齐眼里，附属国攻打君主国，是以下犯上，大逆不道之行，而且战争让两军相残，民不聊生。他们认为武王这样做是不道德的，于是他们趁武王出行时拦住武王，劝说武王放弃战争，武王听后非常生气，遂下令诛杀二人。这时，旁边的姜太公说：“大王出兵讨伐商，是替天行道，此二人虽然迂腐，但也是良善之人，望大王饶过二人。”武王一向敬重太公，于是收回命令。
最后，商朝被灭，武王姬发建立周朝。悲愤之下，伯夷叔齐拒绝与周人来往，并不食用周人种植出来的粮食。于是，二人隐居于首阳山，终日靠采集薇草过日，并作采薇歌：“登彼西山兮，采其薇矣。以暴易暴兮，不知其非矣。神农、虞、夏忽焉没兮，我安适归矣？于嗟徂兮，命之衰矣。”
在首阳山上不多时日，二人便因无法适应山上的生活饥饿而亡。二人死后被当地好心百姓埋葬于首阳上的长旺村，
而今在长旺村的一片杏树深处，有两个圆形的坟冢，各高4米，周长45米，即伯夷叔齐墓。墓之东面原有二贤庙，供人们祭祀叔齐伯夷，后被毁。
