《三國誌·魏書·楊阜傳》裡有記載，這兩人確實有仇。楊阜此人的特點是道德高尚，剛正不阿，而且有遠見卓識。他與馬超結仇要從戰敗渭南說起。當時曹操在後面追殺馬超，但馬超已經逃到少數民族地區，曹操就想收兵。楊阜這時就認為應該多派兵駐守隴上郡縣，防備馬超帶著少數民族士兵來襲擊。曹操也想如此，無奈分兵乏力，只能作罷，只在當地留下楊阜。
後來馬超果然率領萬於少數民族士兵來攻城。此時楊阜手裡只有千餘人，但還是竭力守城。這場仗打了八個月，援兵還沒有到，被派出求救的別駕閻溫也被馬超所殺。這真是叫天天不應，叫地地不靈，城裡的刺史和太守終於崩潰，準備投降。
楊阜苦勸沒有用，發出了一聲感天動地的歎息：「阜等率父兄子弟以義相勵，有死無二;田單之守，不固於此也。棄垂成之功，陷不義之名，阜以死守之。」白話的意思就是「我楊阜率領著父兄子弟，憑著一股義氣守城，雖然死也不會變節。當初齊國田單守得即墨城，並不比這裡更堅固啊。現在功敗垂成，我也陷於了對國家不義的境地。老天啊，我可是以死守城啊」以此可見楊阜的投降是多麼的委屈，這也就是二人仇恨的由來。