诸葛亮平定南中后，继续联合孙吴，解除了蜀汉的后顾之忧，经过两年的筹备，于公元227年冬，率军挺进汉中，开始实施他的北伐中原计划。
离开成都前诸葛亮给后主刘禅上了一道奏章，要后主不要固步白封，妄自菲薄，要亲贤臣，远小人，要贺罚分明，他在表章中还说：“臣本布衣，躬耕南阳，先帝不嫌臣卑微，三顾茅庐……受任于败军之际，奉命于危难之间……先帝知臣谨慎，故而临崩托孤于我。受命以来夙夜忧虑，恐付托不效，伤先帝之明……今南方已定，甲兵已足，当奖帅三军，北定中原，庶竭驽钝攘除奸凶，光复汉室，还于旧都。此臣所以报光帝而忠陛下之职分也。”这份奏章就是历史上著名的（《前出师表》。
过了3年，诸葛亮派赵云，邓芝佯装进占箕谷，攻打郿城，魏军获悉果然派兵去守郿城。诸葛亮趁机亲率大军从西路出击祁山，蜀军经数年休整，再加诸葛亮治军有方，号令严明，士气旺盛，祁山魏军抵挡不住纷纷败退，祁山以北的天水、安定、南安三郡望风而降，蜀军的节节胜利，魏国朝野震惊，这时曹丕已死，其子曹叡（明帝）在位，急忙派大将张命率五万人马前往祁山迎敌，并御驾亲征到长安督战。
诸葛亮占领祁山，准备继续向长安进军，在秦岭以西，有一战略要地——街亭，地方虽不大，但这是从汉中出入的咽喉要道，兵家必争之地。因而诸葛亮派他信得过的马谡和办事谨慎的王平去镇守街亭，以维护粮道、兵道的畅通。可只会纸上谈兵、言过其实的马谡自以为是，不按诸葛亮的部署，不听乇平的劝阻，以“居高临下，置死地而后生”为由，放着现成的城池不守，偏偏要到山上去安营扎寨，被魏将张邰将其围了个水泄不通，并切断了水源，兵士们连饭都做不成，几次向外冲击未果，蜀营不战自乱，纷纷逃散。张邰看准时机冲上山来，一战即溃，多亏王平领一千人马在山下接应，才避免全军覆没、街亭失守，汉中危急，诸葛亮急忙撤兵回汉中，挥汨斩了马谡，并上表自责用人不当，自请降职三级。是年冬天，诸葛亮又一次兵出祁山，攻占了人散关，陈仓道，收复了武都、阴平二郡，斩了魏将王双，这才挽回了蜀汉的局面，后主认为诸葛亮立了大功，恢复了诸葛亮的职务。就这样，诸葛亮殚精竭虑，五出祁山伐魏，皆因蜀地山路崎岖，粮草供应不济等种种原因无功而返，诸葛亮接受这个教训，决定作长期打算，他亲手设计了“木牛”、“流马”这两种轻便灵活，适合干蜀地山川地形的运粮工具，用它们把火批粮草运到全斗谷口囤积起来，公元234年春，诸葛亮又率兵六出祁山伐魏，将兵马带到渭河南岸的五丈原驻扎，派一部分兵士构筑营垒，另一部兵士就在那里屯垦，与当地百姓们一起耕耘，因诸葛亮军纪严明，所以兵士们与当地百姓们相处得相当融合。
魏国派了诸葛亮的老对手司马懿来抵抗蜀军，他们也在五丈原构筑了营垒，任凭蜀军如何挑衅，魏军就是坚守不出，这样两军相持了100多天，为了诱使魏军出来交战，只有设法激怒司马懿，于是诸葛亮就派人给司马懿送去一套妇女的服饰和脂粉之类的东西，来讥讽司马懿如同一个“闺房小姐”胆小怕事，谨小慎微，这可激怒了魏军将士，他们见主将这么受辱，气恼地纷纷要求去和蜀军拼命，可司马懿老奸巨猾，知道这是诸葛亮的激将法，因而并不发火，以“要出战必须上表章奏请魏帝批准”为由阻止魏军将士的鲁莽行动。
正在诸葛亮霄盱忧劳，绞尽脑汁设法完成北伐大业的时候，他却劳累顿踣，心力交瘁地病例在蜀军大营里，并且病势越来越重。刘禅听说丞相病重，急忙派大臣李福昼夜兼程赶赴五丈原，李福看到丞相病势严重，便哭了起来，诸葛亮睁开眼睛，看到李福欲言又止，便明白了李福的心思，于是就对李福说：“我懂你想问什么，你所要问的人，我看就是蒋琬吧。”李福连忙道：“堰相说的是，皇上正要我问丞相百年之后，谁来继任？那么蒋琬之后呢？”诸葛亮答道：“赞伟可以。”李福还想再问，诸葛亮却闭上眼睛，不再言语了。不久，一代英才诸葛亮就在军营里溘然长辞了，年仅54岁。
蜀军将领姜维等人按照诸葛亮生前的部署，秘不发丧，他们把诸葛亮的尸体裹好放在车里，布置各路人马井井有条地撤退，魏营探到诸葛亮病故的传闻，司马懿立即率军追赶上来，刚过五支原，蜀军的旗帜突然变了方向，战鼓擂响，蜀军转身掩杀过来，司马懿以为又中计了，慌忙令魏军撤退，这就是民间传为美谈的“死诸葛吓走活仲达”。姜维看见魏军离远了，才令蜀军继续有条不紊地撤退，转过斜谷，蜀军才扬起白幡，一路如丧考蚍般地撤回汉中，司马懿问听后连声感叹道：“孔明乃天下奇才也。”
诸葛亮想统一中原的愿望并没有实现，但他的智慧和晶格万古流芳，他为蜀汉的巩固和发展真正做到了“鞠躬尽瘁，死而后已”。
