曹叡对他的看法深以为然，再次命司马懿屯兵宛城备战。
八月，大司马曹休不依计划，迳下皖城深入敌境接应诈降的吴将周鲂，
在石亭被陆逊伏击，大败，曹休病死。
太和三年（229年），蜀相诸葛亮第三次出兵攻魏，
并占据武都（今甘肃省陇南市武都区）、阴平（今甘肃省文县）二郡。
太和四年（230年），魏明帝曹叡决定兴师伐蜀。
升司马懿任大将军、加大都督、假黄钺，与大司马曹真一起伐蜀。
八月，魏明帝命曹真率主力由长安入子午谷，左将军张合出斜谷，
司马懿自荆州溯汉水出西城，将兵分三路会攻汉中。
司马懿从西城开拓道路，水陆并进，沿着沔水逆流而上，
直达朐忍，攻克新丰县，驻军丹口，后遇大雨班师。
太和五年（231年）二月，诸葛亮率军第四次北伐魏国，
包围祁山贾嗣、魏平部，并以木牛流马运输粮草，曹叡派司马懿西驻长安防御蜀军。
司马懿留部将费曜、戴陵率4000人守邽，自率主力西救祁山。
张合劝司马懿分兵驻扎雍、郿两地，以作大军后镇，司马懿不同意。
进军隃麋。后来，双方爆发了卤城之战。
此次战役的结果，不同的史书有不同记载。
在《晋书·宣帝纪》中，司马懿大胜蜀军；但在《汉晋春秋》中，诸葛亮力挫魏军。
另外，在《三国志·张合传》中，没有司马懿督张合，
也没有写出张合追击的原因，“诏合督诸将西至略阳，亮还保祁山，合追至木门，
与亮军交战，飞矢中合右膝，薨。”；
而在《魏略》中则记载是司马懿不听张合的劝阻，
强行命令张合追击，“宣王（司马懿）使合追之，
合曰：“军法，围城必开出路，归军勿追。”宣王不听。
合不得已，遂进。
蜀军乘高布伏，弓弩乱发，矢中合髀。”历史真相究竟如何，尚不能下定论。
青龙元年（233年），安定保塞匈奴大人胡薄居姿职等叛，
司马懿派遣胡遵等追讨并破降。蜀军退军后，军师杜袭、
督军薛悌都预计诸葛亮第二年麦熟时还会入侵，建议趁冬天调运粮草，
解决陇右粮少问题。司马懿认为：“诸