就在北伐军捷报频传之时，具有传奇色彩的国民党将领冯玉祥从苏联返回国内，于9月15日抵达内蒙古的五原，使国民军的士气为之大振。
冯玉祥被迫引退出国后，在莫斯科密切关注着国内的形势。国民军在南口大败，险象环生。石友三、韩占元、郑金声等率部投告了阎锡山。国民军第三军司令孙岳病重，第二军的大将岳维峻一战吴佩孚于洛阳、二战阎锡山于运城，一路血战，战至最后一兵，被俘于太原。第二军残部由李虎臣率领与久困西安的第三军杨虑城部会合，在西安被困七八个月，弹尽粮绝，危在旦夕。西安一失，冯玉祥再难染指中原。
冯玉祥从苏联带回来了3500支步枪，1150万发子弹、4000把马马，10支火焰喷射器，还有3架飞机。
1926年9月17日上午，国民军第一军的全体官兵集结了五丈原西南的草原。正午12点，冯玉祥在于右任、张之江、李鸣钟、鹿钟麟、宋哲元、方振武、弓富魁、石敬亭、苏联顾问乌斯马诺夫的簇拥下，登上临时搭起的一个台子，就职誓师，就任南方国民政府任命的国府委员兼国民军联军总司令。于右任以国民党中央执行委员会常务委员的资格为授旗的党代表。当冯玉祥从于右任手中接过大旗，将旗展开时，4门大炮同时向天发炮12发。
炮声回荡在阳山脚下。
冯玉祥向全体官兵一字一句地说：“从今以后，我们上在国民党的旗帜下，在这面旗帜下继续前进。”
从此全体国民军脱离北洋军阀参加国民革命军。
冯玉祥五原誓师后，投告阎锡山的韩复榘、石友三、郑金声等又率部弃阎归冯。
随后，他们绕道甘肃，进入陕西。
1926年10月初，冯玉祥部署了西安解围战。
西安原为国民第三军第十师师长李虎臣守。吴佩孚东山再起后，令刘镇华率镇嵩军进攻西安。李虎臣孤军在西安难抵刘镇华4万余人马的围攻。这时国民军第二军被吴佩孚打败，其残部第三师由豫逃到陕。李虎臣邀杨虎城来共守。杨虎城二话没说，就冲进了这座危城之中。因刘镇华军绝大部分系改编土匪组成，缺乏重开器，屯兵于坚城之下，无法攻破，便采用围困战术，深沟高垒，企图饿毙城内守军。
围城日久，给西安人民造成极大灾难。不仅城内饿毙者日以百计，城外亦被匪军抢劫，十室九空，人民遭受极大灾难。李、杨二虎仍不开城投降，坚守以待援军。
11月中旬，各路国民联军抵西安附近，与刘镇华的镇嵩军展开了激战。
11月27日中旬，各路国民联军抵西安附近，与刘镇华的镇嵩军展开了激战。
11月27日午12点，西安解围。西安被围达8个月，远超过信阳、武昌之围的时间，是内战史上惨烈的悲剧。出现饥民偷吃死人的事件，使人闻之而寒。
西安解围后，国民军占领了陕西全省，并控制了甘肃、宁夏等西北地区。
1927年4月6日，武汉国民政府任命冯玉祥为国民革命军第二集团军总司令。5月1日，冯玉祥任命石敬亭为总参谋长，刘伯坚为政治部主任。部队也按国民革命军编制进行了改组，开始积极准备挥师东进，配合南方的北伐军夹击河南境内的张作霖部，以实现会师郑州、完成北伐大业。
从北伐开始，到1926年底这段时间里，北伐军节节胜利，无坚不摧，中国的统一大业眼看就要完成了。但这时，却在革命阵线内部发生了不该发生的事情。
1926年12月10日，外交部长陈友仁、财政部长宋子文、交通部长孙科、司会部长徐谦、苏联顾问鲍罗廷一行60人到达武汉，筹备将国民政府及中央党部迁到武汉一事时，蒋介石开始利用迁都问题，公开国民政府闹分裂。
1927年1月3日，他以首都应该建在前线，设在总司令部的所在地为借口，决定将首都设在南昌。从而挑起了建都之争。在他的目的没有达到的情况下，蒋介石便赖在南昌不到武昌去。李宗仁说蒋介石这是“私心自用”。蒋介石自己也知道这点，但他更清楚，如果他随国民政府一起到武昌，那他下一步“挟天子以令诸侯”的计划就会落空，那里没有人会支持他，没有人会听他的话。
因为孙中山在生前提出过把首都设在南京，武昌虽然是他选择的一个地方，但是他把南京放在了第一位。蒋介石为了达到不可告人的目的，便把他的下一步北伐目标定在了南京。他要利用孙中山的遗愿为压服那些不听他话的人，还要把整个国民党的军权、政权统统揽到自己手中来。
蒋的所作所为引起了人们的不满。1927年1月1日，国民政府迁都武汉。3月10日，国民党中央召开第二届三中全会，选举汪精卫、谭延、孙科、宋子文、徐谦五人为国民政府常务委员，决定取渤海国民军总司令的名义，另成立中央执行委员会军事委员会，以限制蒋介石的独裁。
而蒋介石利用北伐军将士们完成北伐大业、统一全中国的高昂热情，于1927年春，发动了新的攻势，以夺取江苏、上海等地。
就在孙传芳调兵遣将，向浙江境内推进，准备同北伐军在钱塘江下游进行决战之时，蒋介石把北伐军分为东、中、西三路大军，于1月29日向浙江之敌发起了猛烈进攻，经过一番激战，北伐军占领杭州。不久，浙江全境遂被北伐军占领。后来，安徽全境也被北伐军占领。
北伐军很快逼近南京城下，守敌大部逃跑。从3月20日开始，北伐军仅用了3天时间，就攻下了南京城。
蒋介石的梦想终于实现了，他手中的政治砝码又加重了。但是，在他通向权力顶峰的道路上还有一个极大障碍——共产党，必须将其除掉。
