司馬懿名氣雖然很大，但在歷史上的名聲卻不怎麼好。司馬懿同諸葛亮同為三國時魏蜀兩國的實權人物，也同樣為維護各自的國家而奮鬥一生，但諸葛亮鞠躬盡瘁的美名傳遍天下，無人不知，而司馬懿卻成為奸詐邪妄之人的典型代表。
不過從司馬懿及其兩個兒子司馬師、司馬昭和孫子司馬炎的歷史貢獻來看，他們經過幾代人的努力最終完成了一統天下的重任，結束了數十年天下軍閥紛爭亂局，創建了西晉王朝，使得華夏文明得到進一步發展壯大的機會，所以，司馬懿早期的名聲還是不錯的，甚至受過一些人的讚譽。據史載，司馬懿生前在曹魏政權的威望極高，甚至連曹魏政權的叛臣毌丘儉、文欽在其死後討伐司馬師的檄文中，依然對司馬懿有「故相國懿，匡輔魏室，歷事忠貞」的讚譽。史書上也稱其使「天下欣賴」「天下大悅」。
晉朝太康年間，晉武帝司馬炎統一全國，國家經濟繁榮，出現久違的太平盛世局面。當時的西晉王朝重視農業生產，勸課農桑，興修水利，民和俗靜，家給人足，牛馬遍野，餘糧委田，出現了四海平一、天下康寧的昇平景象，實現了「天下無窮人」的太康之治。面對這種治世，百姓自然對晉朝比較滿意，此時，很多有識之士對推動三國統一的司馬懿及其家族也是比較推崇的。可見，在曹魏政權末期和西晉朝初期，人們對司馬懿推動三國一統所做歷史貢獻是肯定和讚譽的，那麼，司馬懿的名聲為什麼到後來越來越壞了呢?他的名聲又是何時開始變壞的呢?
令司馬懿絕對想不到的是，他的壞名聲是拜其子孫所賜，特別是發動臭名昭著的「八王之亂」的那些混蛋王爺，他們為了權力悍然發動的一場場內亂和自相殘殺，嚴重攪亂了國家秩序，將百姓生活推向水深火熱，導致五胡亂華的漢民族大悲劇。所以，在永嘉之禍以後，很多有識之士經過反思後，逐漸認識到導致五胡亂華、中原大亂的罪魁禍首，就是佔據統治地位的司馬家族，並進而向上推展到司馬炎、司馬昭，甚至司馬懿，尤其責怪司馬懿弄權，導致曹魏丟失政權。
由此，司馬懿在人們心目中的地位開始下降，到了東晉時，由於皇室衰弱，國家大權長期操縱在世家大族手中，所以一些以蜀漢為正統的聲音開始出現。東晉滅亡之後，人們對兩晉的評價普遍不高，到了隋唐之後，在民間說書戲曲中對三國歷史的看法更是傾向以蜀漢為正朔。到明代《三國演義》之後，司馬懿的名聲更是完全被諸葛亮超越，成為反襯諸葛亮形象的配角，出現了「空城計、火熄上方谷、見木雕魏都督喪膽」等，一些列貶低司馬懿的橋段，由此，司馬懿的壞名聲算是徹底深入人心了。
唐朝在修《晉書》時，李世民曾為《晉書·宣帝紀》作史論，從司馬懿性格、軍事、政治等多方面的表現，對其進行了比較全面客觀的評價。李世民對司馬懿後期輔佐曹魏政權的表現進行了質疑，責問他「輔佐之心，何前忠而後亂?」並用晉明掩面與石勒肆言的典故，指出古人有云：「積善三年，知之者少，為惡一日，聞於天下。」並揭露司馬懿「雖自隱過當年，而終見嗤後代。亦猶竊鍾掩耳，以眾人為不聞;銳意盜金，謂市中為莫睹。故知貪於近者則遺遠，溺於利者則傷名;若不損己以益人，則當禍人而福己。」
從李世民對司馬懿的這些評價看，他深刻地揭露了司馬懿用奸詐和陰謀，奪得曹魏政權最高權力的做法的確不算什麼光彩的事。陰奪曹魏政權後，其子孫後代如果能竭盡全力維護國家的長治久安，時間久了，人們也也許就認可了，可偏偏他的不肖子孫紛紛登上歷史舞台胡為一通，弄得漢民族政權和華夏文明傷痕纍纍，甚至差點被外族滅絕，所以，後世讓司馬懿背鍋也不算委屈他!