呂蒙作為繼魯肅之後的東吳大都督，最大的功績就是收復荊州，殺掉了大名鼎鼎的關羽。由於關二爺在後世的顯赫地位，因此殺害關羽一事也算是惹了眾怒，被後世許多關羽崇拜者恨之入骨。
其實呂蒙跟關羽並沒有什麼仇，殺他只不過是陣營不同而已。當孫權向關羽提親的時候，沒想到關羽會斷然拒絕，明顯地看不起孫權。關羽能看得起的人也許只有劉備和曹操，連諸葛亮都不放在眼中，更不用說孫權了。在關羽眼裡，孫權只不過是個坐享其成的平庸之輩，根本算不得什麼英雄。
關羽詆毀和看不起孫權，讓孫權及東吳集團非常氣憤，感覺很沒有面子。所以上至孫權呂蒙，下至普通將官，人人都想取下荊州殺掉關羽，這是呂蒙殺關羽的起因和導火索。
加之，呂蒙本來就不大贊同蜀吳聯盟，而關羽拒絕孫權的和親，多次傲慢不給孫權面子，又讓孫權在關羽這邊受了不少的氣，呂蒙便下定決心要設計奪回荊州、殺掉關羽。同時，呂蒙殺關羽也只是聽從孫權的命令履行職責而已。
呂蒙取荊州殺關羽勢在必行。呂蒙本來經常有病，這一回他就裝作舊病發作，而且說是病得很厲害。孫權也正式發佈命令，把呂蒙調回去休養，另派了一個年青的陸遜去接替呂蒙。
這個消息很快傳到樊城。關羽聽到呂蒙病重，又聽說陸遜是個年青書生，心裡暗暗高興，不覺又自大了幾分。沒過幾天，陸遜從陸口特地派人拜見關羽，獻上書信和禮品。信中大意是說，聽說將軍在樊城水淹七軍，俘獲於禁，遠遠近近哪個不稱讚將軍的神威。這次曹操失敗了，我們聽得也高興。我是個書生，很不稱職，今後還得靠將軍多多照顧呢!
關羽看了陸遜的書信，覺得陸遜態度謙虛、老實，也就放了心，把原來防備東吳的人馬陸陸續續調到樊城那邊去了。陸遜隨時把關羽人馬調動的情況報告給孫權和呂蒙。這時候，關羽在樊城接受了於禁的投降兵十幾萬人，糧草供應發生了困難，就把東吳貯藏在湘關的糧食強佔了。
孫權得知湘關的米被搶，就派呂蒙為大都督，命令他迅速襲擊關羽的後方。後來就發生了呂蒙白衣渡江的故事。接著，輕敵的關羽被呂蒙四面圍堵，敗走後窮途末路被呂蒙抓住。一代英雄關羽，就這樣落入他看不起的對手手中。
不論是《三國演義》還是《三國誌》，對於關羽之死基本都沒有什麼太大爭議，都是寫關羽戰敗被俘，然後被孫權斬殺。大多數歷史學家也公認關羽是被吳將潘璋、馬忠設伏所擒獲。
孫權知道關羽無法歸降東吳，如不立即除掉他，必成後患，於是下令就地把他殺掉。究竟是被俘斬首還是死於戰陣沒有詳細記載。
《三國誌》是這樣記錄關羽之死的：「曹公遣徐晃救曹仁，羽不能克，引軍退還。權已據江陵，盡虜羽士眾妻子，羽軍遂散。權遣將逆擊羽，斬羽及子平於臨沮。」關羽不能戰勝徐晃軍，率軍撤退時，孫權已經佔領了江陵，把關羽手下將士的老婆和孩子都抓了起來，關羽的軍隊大多就四散了。孫權再派將領攻擊關羽，在臨沮斬殺關羽和他的兒子關平。
對曹操來說，他知道關羽對於劉備的價值，他不會像孫權、呂蒙那樣執意追殺關羽。在派徐晃就曹仁之前，曹操曾對徐晃下令：「對關羽殘軍，只追不擊;對關羽，不殺不傷」。這也就是只要地盤不取性命。其實在解樊城之圍時，曹操的猛將兒子曹彰當時更有機會殺掉關羽，只是被徐晃拚死攔著才未殺成。
然而，孫權、呂蒙或許是因為新仇舊恨，對此採取無視態度，遂對關羽死命追殺，最後殺害。當然，這其中呂蒙及手下武將對斬殺關羽或許抱著更為堅決的態度。畢竟，關羽在當時可謂威震天下，是馳騁沙場的蓋世英雄，天下無雙的著名將領。武將對於殺掉他就能揚名天下的誘惑，恐怕都是欲罷不能的。
至於殺死關羽之後，按照《三國演義》的說法，孫權為了轉移劉備的仇恨而將關羽的首級送給曹操，以坐實受曹操之約而襲取關羽之說。曹操豈是那麼容易被耍弄之人，於是他把關羽的首級「以王侯之禮，葬於洛陽南門外」，就是今天洛陽的關林這個位置。