司馬懿在鎮守宛城的期間，做了一件大事：消滅了孟達。孟達造反，是在魏明帝太和元年(公元227年)十二月，也就是蜀漢後主的建興五年的十二月。他以新城郡太守的身份宣佈反魏歸漢，僅僅過了八天，司馬懿已經率領兵馬，來到了孟達的上庸的城下(上庸城，在今日湖北竹山縣東南，房縣西北)。
這是司馬懿有生以來第一次單獨指揮作戰，而所獲得的是一個全勝。
魏明帝曹叡特別召見他，問他：對於東吳、西蜀，應該先征討哪一個。司馬懿回答：不妨先征討東吳。曹叡問他，如何去征討東吳?司馬懿回答：不妨先攻皖城，引吳軍去皖城，然後乘虛直搗夏口(漢口)。因為，夏口是吳國的心臟。曹叡認為很對。不過，並沒有予以施行。
曹叡不叫司馬懿去征討東吳，卻在太和四年(公元230年)升他為「大將軍，加大都督，假黃鉞」，命令他與曹真共同領兵去打西蜀。
三年以後，魏明帝青龍二年(蜀漢後主建興十二年，公元234年)，諸葛亮帶了十幾萬人，由斜谷出兵，來到郿縣城附近，屯紮在渭水南岸五丈原。
這一次，曹叡加派了兩萬兵來，交給司馬懿調度。司馬懿挨了一百多天，不敢對諸葛亮決戰。在這一百多天以內，諸葛亮曾經對他多方挑戰，而他一概不理。
諸葛亮病死在五丈原，蜀漢的軍隊撤走。司馬懿不知道諸葛亮已死，追到赤岸，才得到確實的情報。
魏明帝曹叡景初元年(公元237年)，遼東太守公孫淵在夏天宣佈獨立，自稱燕王，不再聽命於魏。次年，曹叡撥四萬兵給司馬懿去討伐公孫淵。
司馬懿到達遼東，不攻公孫淵所設防的遼隧，而迂迴到公孫淵的根據地襄平(遼寧省遼陽縣之北)。司馬懿把襄平圍了，斷絕糧食的供應;圍了差不多三個多月，然後猛攻。
司馬懿攻破襄平城，殺掉公孫淵與城裡的兩千多文武官吏、七千多無辜的男性人民，近萬人。他這一股殘忍勁兒，十足暴露了他是狼，不是人。
另有一件小事，也顯出了司馬懿的為人。遼東的氣候極其嚴寒，有些兵士實在抵擋不住，便向他請求，把遼東郡倉庫中儲存的短襖賞給他們。司馬懿竟然不肯。他打著官腔說，「接收下來的敵人物資，是公家的，我怎麼可以擅作主張?」