三国时期，魏蜀吴鼎足而立，征战不休，然而最终司马懿的家族却笑到了最后，灭蜀、篡魏、平吴，一统天下。西晋的开国皇帝是司马炎，但奠基者却是他的爷爷司马懿。历史上的篡位者大多是武将，比如刘裕、萧道成、赵匡胤等，而司马懿原本不过是一介文官，为何能够脱颖而出，成为曹魏权臣，进而攫取江山的呢？
司马懿的家族原本是武将，他的高祖司马钧曾经官拜征西将军，参与平定西部的羌族作乱。可是到了司马懿的祖父司马儁时，其家族“由武入文”，开始沾染儒学的影响。司马家虽然是当地豪族，但和世家大族还是存在着较大的差距，不过司马家族和曹操之间存在着密切的关系。
司马懿的父亲名叫司马防，与曹操相识，曾推荐曹操担任洛阳北部尉。建安六年，曹操被封为司空，他征召司马懿的大哥司马朗为司空掾属。建安十三年，曹操征召司马懿担任丞相府文学掾，成为自己的属官。所谓文学掾，相当于曹操文学方面的幕僚，“掌文学侍奉”。
曹操在世期间，司马懿的官职一直很低，没有什么实际权利，充其量算个谋士。直到曹丕即位后，司马懿才得到重用，先后出任御史中丞、尚书仆射等职务。此时司马懿的职务虽然很高，但依然还是文臣，没有多少兵权。直到曹丕晚年，司马懿才在军事上崭露头角，担任抚军大将军的职务。
当时魏国主要有两个对手，一个是西南的蜀汉，一个是东南的吴国，为此曹魏政权设置了两大军事集团，一个驻扎在关中，抵御蜀汉的进攻，另一个以淮南为中心，防备东吴的进犯。曹丕临死前，安排了四位辅政大臣，分别是曹真、曹休、司马懿、陈群。曹真以大将军的身份，率军驻扎汉中，而曹休身为大司马，坐镇淮南。
曹魏虽然强大，却不断受到外界的挑战，特别是来自蜀汉的军事压力。诸葛亮自228年开始，不断率军北伐，给曹魏造成了不少的影响。负责对付诸葛亮的人，一直是曹真、司马懿。然而曹真却与231年病死，为了抵御诸葛亮的北伐，魏明帝打破常规，任命司马懿为将，坐镇关中，抵抗蜀军的进犯。
之前司马懿就曾在此地作战，抵抗诸葛亮，因此关中诸将大多是他的旧部，或者曾受其提携。故而，司马懿以关中为基地，很快就建立起了自己的势力集团。234年，诸葛亮病死于五丈原军中，司马懿则获得了提升，被任命为太尉。曹魏政权的军权原本是掌握在宗室的手中，可是司马懿在抵抗诸葛亮的过程中，屡立战功，因此打破常规。