司馬懿出生於東漢末年的一個官宦之家，他的高祖父司馬鈞是漢安帝時的征西將軍，曾祖父司馬量為豫章太守，祖父司馬雋為穎川太守，父親司馬防為京兆尹。司馬家祖上世世代代都是漢朝的忠臣。司馬懿是司馬防的次子，從小受到良好的家庭教育，司馬懿少年時期就有很高的胸懷謀略。
當時正是東漢末年天下大亂的時期，司馬懿經常有憂國憂民之心。時任南陽太守楊俊素以知人善任著稱，司馬懿二十歲前，楊俊曾見過他，說他絕非尋常之子。司馬懿成年之後，更加的聰明懂事，做事果斷，英姿不凡，在京城已經小有名氣。
公元196年，曹操聽從謀士參謀的建議，救回漢獻帝劉協並遷都許昌，開始挾天子以令諸侯。公元201年，司空曹操聽說了司馬懿的才能，就派人前去召他進入司空府出任幕僚。此時的司馬懿早已看清曹操的真面目，不想在曹操手下做事，便借口自己有風痺病，身體不能起居拒絕前往。曹操不信，派人夜間去刺探消息，司馬懿躺在那裡，一動不動，像真染上風痺一般。
司馬懿裝病的事情只有他和妻子張春華兩人知道，就連司馬懿的貼身婢女都不知道內幕。司馬懿的妻子張春華是河內平皋(今河南溫縣)人，出身官宦之家，父親是曹魏粟邑令張汪。張春華在司馬懿成名之前一直是他最得力的助手，為司馬懿生下三個兒子一個女兒，分別是：晉景帝司馬師、晉文帝司馬昭、平原王司馬干和南陽公主。
史書記載，張春華不但姿色出眾，而且武功高強。在司馬懿裝病期間，有一次危急關頭正是張春華的臨危不亂，才能救了司馬懿一條性命。司馬懿裝病期間，有一次將書拿到院子中晾曬，突然遇到大暴雨，司馬懿沒有多想趕緊衝去院子收書。正巧被院子中的婢女看到，張春華擔心司馬懿裝病的事情被曹操知道，那全家一定會被曹操所殺。張春華立刻抽劍上前，親手殺掉這名婢女。司馬懿從此更加器重張春華。
《晉書‧卷三十一‧列傳第一》：宣帝初辭魏武之命，托以風痺，嘗暴書，遇暴雨，不覺自起收之。家惟有一婢見之，後乃恐事洩致禍，遂手殺之以滅口，而親自執爨。帝由是重之。