關羽的第一任主公是劉備。劉備滅黃巾起義有功，輾轉擔任許多官職後，投奔昔日同窗公孫瓚，被封為平原相，關羽相隨。興平元年(194年)，曹操攻打陶謙，欲奪取徐州，陶謙求救於劉備，劉備、關羽等前往救援。曹操因故退兵後，陶謙再三相讓，劉備領徐州牧。後來，徐州被呂布所佔，關羽隨劉備迫投奔曹操。
建安三年(198年)，劉備與曹操攻破徐州，並將呂布圍困在下邳。呂布無法取勝，只好派下屬秦宜祿前往袁術處求援。袁術很喜歡秦宜祿，便留在身邊，死活不讓他回去，並讓他娶了東漢王朝的宗室女子，而秦宜祿的妻子杜氏一直留在下邳，成了寡婦。關羽聽說了這件事後，在圍城的時候請求曹操，希望破城以後將杜氏賞給自己，曹操當時破城心切，想也沒想，便一口答應了。
後來，下邳快要攻破的時候，關羽又一而再、再而三地提醒曹操，別忘了之前的承諾。曹操一看關羽這麼心急，當下便起了疑心，懷疑那杜氏是個絕色佳人，內心也蠢蠢欲動。破城以後，曹操命人將杜氏先帶來。曹操一看，驚呆了，發現杜氏果然是個大美女，雖然身懷六甲(後來杜氏生下一子，取名秦朗，曹操對這個假子非常寵愛)，但風姿絕代，當下便據為己有。
對於這件事，史料頗豐。《三國誌》載：「曹操與劉備圍呂佈於下邳，呂布使秦宜祿詣袁術求救，袁術留之。關羽屢請曹操，欲得秦宜祿妻。曹操疑其有色，及城陷，曹操見之，乃自納之。」《三國誌·關羽傳》注引《蜀記》載：「曹公與劉備圍呂佈於下邳，關羽啟公，布使秦宜祿行求救，乞娶其妻，公許之。臨破，又屢啟於公。公疑其有異色，先遣迎看，因自留之，羽心不自安。」
除了正史，其他史料記載也幾乎是一致的。《魏氏春秋》載：「宜祿為呂布使詣袁術，術妻以漢宗室女。其前妻杜氏留下邳。布之被圍，關羽屢請於太祖，求以杜氏為妻，太祖疑其有色，及城陷，太祖見之，乃自納之。」《華陽國志·劉先主志》載：「初，羽隨先主從公(曹操)圍呂佈於濮陽，時秦宜祿為布求救於張楊。羽啟公：妻無子，下城，乞納宜祿妻。公許之。及至城門，復白。公疑其有色，自納之。」雖然所載地點不同，但故事情節是相符的。
早就答應了關羽，卻又出爾反爾，曹操此舉頗有些橫刀奪愛的意思。其實這事兒多少也怨關羽，那麼心急幹嘛?惹得曹操色迷心竅。曹操霸佔杜氏後，關羽大怒，甚至要伺機殺曹操，被劉備攔下。據《華陽國志·劉先主志》載，「後先主與公(曹操)獵，羽欲於獵中殺公。先主為天下惜，不聽。故羽常懷懼。」關羽雖然沒能殺掉曹操，沒能報奪妻之恨，但從此對曹操有了看法。關羽是劉備倚賴的愛將，他的想法劉備不能不考慮。後來，劉備毅然脫離曹操，或多或少摻雜著這方面的因素。
曹操擊敗劉備後，關羽被生擒。由於劉備生死不明，關羽只好違心地歸順曹操。關羽很勇猛，是當時少有的萬人敵，故曹操提拔了他的官職，待他也非常好。關羽覺得過意不去，也為曹操賣過幾次命，殺掉顏良，解了白馬之圍，算是對曹操的一份回報。由於之前因為爭搶杜氏，二人已經結下怨恨，故關羽對曹操心不在焉。後來，關羽聽說劉備在袁紹那裡，於是執意離開曹操，千里去尋故主。
「吾極知曹公待我厚，然吾受劉將軍厚恩，誓以共死，不可背之」，這不過是關羽的冠冕之語，其實真正的問題還在於那個被曹操搶去的寡婦杜氏。曹操與關羽兩位英雄，竟為一個寡婦鬧到分崩決裂的地步。後來，杜氏被曹操封為夫人，在眾多老婆中排第五位，並為曹操生下了曹林、曹袞二子。另據《關侯祖墓碑記》一文，其謂：「……羽長成後娶胡氏為婦，生子關平。」