此战利用孙、刘争夺荆州的矛盾，充分运用外交谋略，坐收渔利，不仅挫败关羽的强大攻势，解除了樊城之围，而且也使诸葛亮原定的一路向宛洛、一路出秦川的两面钳击中原的计划无法实现。更重要的是一举破坏了孙、刘联盟，改变了当时的战略格局，掌握了主动权。
之后曹操认为荆州遗民及在颍川屯田的军民逼近南方寇贼，想把他们迁走。司马懿认为：“荆楚轻脱，易动难安。关羽新破，诸为恶者藏窜观望。今徙其善者，既伤其意，将令去者不敢复还。”曹操听了他的建议，没有移民，使之前藏窜逃亡者果然都复出归化，郡县皆平。
延康元年（公元220年），曹操去世，朝野危惧，司马懿管理丧葬诸事，内外肃然。同年，曹丕即魏王位，司马懿受封河津亭侯，转丞相长史。当时孙权正率军向西。朝臣们认为樊城、襄阳缺乏粮，不能抵御吴军，请召守将曹仁回驻宛城。司马懿则表示：“孙权刚刚打败关羽，正是他想和魏国结好的时候，一定不敢为患。襄阳是水陆交通要地，不能放弃。”曹丕没听其建议，命曹仁放火烧毁二城。后来孙权果然没来入侵，曹丕悔之不及。
黄初元年（公元220年）十一月，曹丕登皇帝位，史称魏文帝。登基后，任命司马懿为尚书，不久转督军、御史中丞，封安国乡侯。
黄初二年（公元221年），免去督军官职，升任侍中、尚书右仆射。黄初五年（公元224年），曹丕伐吴，司马懿镇守许昌，并改封司马懿为向乡侯，转抚军、假节，领兵五千，加给事中、录尚书事。
黄初六年（公元225年），曹丕再次伐吴，司马懿留守许昌，“内镇百姓，外供军资”。临行，曹丕下诏书给司马懿说：“吾深以后事为念，故以委卿。曹参虽有战功，而萧何为重。使吾无西顾之忧，不亦可乎！”后曹丕由广陵回师洛阳，又下诏对司马懿说：“吾东，抚军当总西事；吾西，抚军当总东事。”于是司马懿留镇许昌。
黄初七年（公元226年）五月，曹丕驾崩，享年四十岁。临终时，令司马懿与中军大将军曹真、镇军大将军陈群、征东大将军曹休为辅政大臣。曹丕对太子曹叡说：“有间此三公者，慎勿疑之。”曹叡即位，改封司马懿为舞阳侯。孙权得知魏文帝去世后，于八月出兵攻魏。命诸葛瑾、张霸兵分两路进攻襄阳，亲自率军进攻江夏郡。司马懿击退了孙权，又击败诸葛瑾，并斩杀张霸，斩首千余级。十二月，升任骠骑将军。
太和元年（公元227年）六月，魏明帝曹睿命司马懿驻扎宛城，加督荆、豫二州诸军事。时有蜀将孟达降魏，魏朝待其甚厚，司马懿认为他言行倾巧，不可信任。但曹睿不听，任命孟达领新城太守，封侯，假节。后孟达失宠，蜀丞相诸葛亮即暗中与之通信，图谋叛魏。诸葛亮恐他言行反复无常，想促他速叛，知魏兴太守申仪和他有矛盾，便派郭模到申仪处诈降，有意泄露其事。孟达闻此泄露，准备马上起兵。申仪将此事密告司马懿后，司马懿怕他突然发难，给他去信，详为慰解，信中说：“将军昔弃刘备，托身国家，国家委将军以疆埸之任，任将军以图蜀之事，可谓心贯白日。蜀人愚智，莫不切齿于将军。诸葛亮欲相破，惟苦无路耳。模之所言，非小事也，亮岂轻之而令宣露，此殆易知耳。”
孟达得信大喜，犹豫不决。司马懿则暗中率军进讨，诸将见孟达与吴蜀交接，劝司马懿先观而后动。司马懿说：“达无信义，此其相疑之时也，当及其未定促决之。”司马懿亲自率军日夜兼程前去讨伐孟达，八天抵达新城城下。吴、蜀派出援兵解救孟达，被司马懿部拦阻于西城的安桥、木兰塞等地。此前，诸葛亮曾告诫孟达加紧防范，孟达写信给诸葛亮认为：“宛城和洛阳相距八百里，离我处一千二百里，上表给天子，来回路程，少需一个月，那时我的城池已修固，诸军都作好了准备。我驻扎的地形深险，司马懿必不会亲自来，其他部将来，则不足为患”。而司马懿先斩后奏，仅八日就兵临城下，孟达又写信给诸葛亮，惊叹：“吾举事，八日而兵至城下，何其神速也！”
上庸城三面环水，孟达在城外树立木栅，加固城防。司马懿挥师渡水，毁其木栅，直逼城下。太和二年（公元228年）正月，司马懿兵分八路攻城，仅十六天，孟达的外甥邓贤、部将李辅开城投降。魏军入城，擒斩孟达，传首京师，俘获万余人。司马懿回军，仍驻宛城，奖劝农桑，禁止浪费。南方吏民心悦诚服。
申仪自恃有功，久在魏兴郡专威弄权，擅自借皇帝名义刻制印信，私相授予。孟达被杀之后，申仪自生疑虑。当时各郡郡守见司马懿克敌制胜，纷纷奉礼祝贺。司马懿听之任之，并让人向申仪暗示，申仪只好前来祝贺。司马懿乘机将他收捕，送往京师。司马懿又将孟达余众七千余家免罪，迁往幽州，不久蜀将姚静、郑他等率其部属七千余人来降。
魏明帝又问他吴蜀都该讨伐，应该先从何处着手？司马懿回答说：“吴以中国不习水战，故敢散居东关。凡攻敌，必扼其喉而摏其心。夏口、东关，贼之心喉。若为陆军以向皖城，引权东下，为水战军向夏口，乘其虚而击之，此神兵从天而坠，破之必矣。”魏明帝同意他的看法，命他回宛城备战。八月，大司马曹休不依计划，迳下皖城深入敌境接应诈降的吴将周鲂，在石亭被陆逊伏击，大败，曹休病死。
太和三年（公元229年），蜀丞相诸葛亮第三次出兵攻魏，并占据武都、阴平二郡。太和四年（公元230年），魏明帝决定兴师伐蜀。升司马懿任大将军、加大都督、假黄钺，与大司马曹真一起伐蜀。八月，魏明帝命曹真率主力由长安入子午谷，左将军张郃出斜谷，司马懿自荆州溯汉水出西城，将兵分三路会攻汉中。司马懿从西城开拓道路，水陆并进，沿着沔水逆流而上，直达朐忍，攻克新丰县，驻军丹口，后遇大雨班师。
太和五年（公元231年）二月，蜀汉丞相诸葛亮率军第四出进攻魏，包围祁山贾嗣、魏平部，并以木牛流马运输粮草。魏明帝对司马懿说：“西南边境战事吃紧，除了你没有可以应对的”，于是派他