249年(嘉平元年)，司馬懿趁曹爽陪曹芳出城祭祖時，在城中發動兵變，半天時間就佔領了洛陽。魏主曹芳只得依司馬懿召曹爽回城，司馬懿誅滅了曹爽三族，魏國政權全歸司馬氏。
歷史上一直流傳這麼一個故事——死諸葛害死活司馬：說是諸葛死後，在自己的墓裡放了一本集自己一生所學的兵書，兵書的頁數在偶數頁塗上了毒
具體什麼毒就不知道了，司馬懿派人盜墓，取的兵書，正要看，忽然想起諸葛亮詭計多端，怕他下毒，就從後往前看
看一頁，翻書的時候沾一下嘴唇，這是每個人都會做的動作，司馬看完了，也中毒身死。就這個故事經常聽到身邊的人說來說去。但這只是一個故事，應該是杜撰出來陳贊諸葛亮的聰明的。
公元251年(嘉平三年)八月，司馬懿因病去世，享年七十三歲。其子司馬師、司馬昭輔政。公元265年，其孫司馬炎以晉代魏，追尊司馬懿為「宣帝」。
歷史的真像是司馬懿病死的。