三國武將中，與關羽關係比較好的魏國著名將領，就是張遼和徐晃。尤其是張遼，和關羽還有淵源。當呂布白門樓被絞死的時候，張遼曾經大罵曹操，曹操要殺張遼，玄德攀住臂膊，雲長跪於面前。玄德曰，「此等赤心之人，正當留用。」雲長曰：「關某素知文遠忠義之士，願以性命保之。」操擲劍笑曰：「我亦知文遠忠義，故戲之耳。」乃親釋其縛，解衣衣之，延之上坐，遼感其意，遂降。後來我們知道，張遼對曹操貢獻很大，尤其是威震逍遙津，以七千之眾大破十萬大軍，差點活捉孫權，經此一役，張遼威震江東，聲名大噪。
那麼劉備既然知道張遼是一個有忠義的人物，而且武藝高強，有勇有謀，為何不自己留著用。也就是劉備為何不留著自己用?
其一，劉備與張遼沒有機會單獨見面。此時劉備在曹操處，一舉一動都要受到曹操的監督，拿下徐州之後，呂布的兵馬都要受到曹操節制。劉備沒機會也不可能與呂布手下的將軍們見面，對於被俘的呂布舊將，要麼受死，要麼投降，別無他途。
其二，劉備此時沒有和曹操撕破臉，曹操現在是大漢丞相，又是漢獻帝劉協身邊的紅人，把張遼推薦給曹操，間接地是為朝廷效力。曹操此時待劉備情如兄弟，又殺掉呂布，除了劉備的心頭大患，作為回報，當然要把張遼這樣的人物獻給曹操。
其三，能夠讓張遼活命的只有曹操，曹操是攻打徐州的總指揮，他想要張遼的命，誰也管不著。情急之下，救命要緊。張遼素懷忠義之心，劉備與關羽不想讓張遼受戮，自然要把張遼交給曹操，希望曹操放他一馬。
其四，張遼罵曹操，這讓曹操很佩服他的勇氣。呂布曾經很牛氣，虎牢關迎戰三英，結果被曹操捉住，奴顏婢膝，甚至讓劉備說情，張遼卻破口大罵：「呂布匹夫!死就死唄，有什麼怕的!」曹操覺得這個人面熟，張遼說：「濮陽城中曾經相遇，怎麼忘記了?」操笑曰：「你原來也記得!」遼曰：「只是可惜!」操曰：「可惜什麼?」遼曰：「可惜當天的火不大，沒有燒死你這國賊!」操大怒道：「你是我手下敗將，怎麼還敢侮辱我!」拔出劍來，要親自殺死張遼。
張遼一點也不害怕，伸出脖子在那裡等著。曹操是一個很奇怪的人，搖尾乞憐的呂布他不喜歡，偏偏對張遼罵罵咧咧的張遼情有獨鍾，在劉備關羽的勸說下，親自為張遼解開繩索，脫下自己的衣服給他穿上，張遼很感激，就歸順了曹操。
因此，雖然張遼與劉備手下關羽相互欣賞英雄相惜，但是沒有在一起的時間。張遼投降曹操之後，曹操對張遼很關愛，因此張遼再也無跳槽的念頭。張遼雖然沒有投降劉備，但對關羽仍是心懷愧疚，因此多次周旋關羽，第一次是劉備兵敗徐州，關羽被圍土山，幸得張遼多次周旋，關羽才得以保全自己及其二位嫂嫂的性命。第二次是過五關斬六將時，如若不是文遠多次求情、並及時護送通關文書，關羽和二位嫂嫂及其百餘隨從不可能全身而退。
其實，當時劉備只是曹操門下的一著名將領領，如果他敢招降張遼並將引來曹操的殺機，想當初煮酒論英雄，劉備嚇了一身冷汗，可見劉備的膽小謹慎，因此，他是不可能做這種風險性極大的事的，因此他雖替張遼求情，卻不敢輕易招降。