吴佩孚一手训练的北洋劲旅，容光焕发，服装整齐，他们排成行军队式，在衡阳百姓爆竹齐燃，欢呼阵阵里，一路高唱着吴佩孚填的满江红军歌，昂首挺胸，齐步前进。衡阳老百姓对于吴佩孚所部的离去，由于多日相处，有了感情，确实是不胜依依。自衡阳北上长沙，沿途所经之处，老百姓莫不扶老携幼，站在路旁伫看欢迎，箪食壶浆，以迎仁旅，士兵们却是微笑道谢，婉语推拒。吴佩孚的队伍，但取民间一草一木，无不给偿付值，老百姓若不肯收，他们宁愿弃之于地，不敢拾取，因此无人不予赞叹，说是几曾得见如此严明的军纪！
大军诉湘江北上，所有船只，一概论酬计值，决不封船拉差。每四艘帆船排成一串，用一艘小火轮拖曳而行，吴佩孚率领参谋卫士，乘一艘较大的轮船，堂堂正正，竖起了帅字大旗，坐船走的，都是吴佩孚的中军，沿江两岸，鱼贯行进的则为掩护部队，骁将张福来亲率一旅，作为殿后。吴佩孚的队伍开到了衡州，即已进入张敬尧的防区，张敬尧自获悉吴佩孚大军已发，他便觳觫战栗，心悸不已，下令沿线严密防范，惟恐吴佩孚登陆奇袭。守衡州的师长吴新田，一面严阵以待，一面携来卫士，扮起笑脸要求登轮谒见吴大帅，当被吴氏副官婉言挡驾，再请大帅下船到衡州休息时，副官也推说大帅早就下过命令，沿途决不登岸，以免“骚扰朋友”。
吴新田待吴佩孚的座船通过，立刻便用电话通知正在长沙苦等消息的张敬尧。据他的看法，吴佩孚用兵如神，变幻莫测，他几次三番推脱不见，极可能他本人并不在那艘船中，而且，看模样第三师是在采取“人不犯我。我不犯人”的方针，他们不至于登岸启衅。
话虽然这么说，张敬尧晓得吴佩孚的“厉害”，终究怀着一肚皮鬼胎。他下令长沙四门紧闭，全部戒严，此外并调集重兵，列阵两岸，枪支一概实弹，大炮都卸了炮衣。五月二十七日，吴佩孚的船队通过长沙，双方剑拔弩张，气压之低沉，仿佛大战一触即发。但是在表面上，张敬尧依然派一名高等参谋，带几位长沙士绅，乘一艘布置一新的火轮，驶向吴佩孚的座船。当那位高参站在火轮上高声叫道：
“我是张督军遣来迎接吴大帅赴宴的，请把船停一停，让我上船当面报告。”
“对不住，”船上的人答说：“大帅有令，过长沙不许停留，张大帅的盛意，请你代为道谢！”
长沙来人又说：
“能否让我上船？请见吴大帅，听他老人家的示下。”
“不必了，”答得很干脆：“大帅此刻正在睡觉。”
“那就不敢惊动了，不过，张督军惟恐大帅懒得下船，可能不会赴宴，叫咱们带了桌酒席来，可否停航几分钟，让他们一一送上。”
“谢谢。这两条船并着走，也是一样的，张大帅厚赐，烦您让他们递过来吧。”
就这样，一桌酒菜，在两条船鼓轮行进中传送过来，张敬尧的专使告退，吴佩孚的大军继续通过。直到全军过完，张敬尧方始长长地吁一口气，以为吴佩孚去了，自此可以再事搜刮，高枕无忧。殊不知，局处郴永之间的一万余名湘军，在谭延闿、赵恒惕的领导下，紧接着吴佩孚撤防之后，高举义旗，揭竿而起，以血肉之躯悍然的和北洋军大炮机枪相拼，他们为了解除桑梓故里的苦难，拯父老诸姑于水深火热之中，以两千余杆子弹奇缺的旧枪，在五月二十七日以猛虎出柙之势，奋勇喊杀，进搏张敬尧麾下的十万大军。北洋大队平时瞧不起衣不蔽体，三餐不继的“叫花子队伍”，但是和这支“叫花子队伍”一交起手来，却败得曳兵弃甲，落花流水。湘军一举连克衡州，宝庆，声势大震，再呐喊向东，吓得张宗昌从攸县、醴陵逃到江西。张敬尧派他的弟弟张敬汤任援衡总司令，驰往湘潭御敌，他带去的是第七师主力，湘军打得子弹都没有了，用爆竹放在洋油筒里燃放，连珠劈啪之声，居然把张敬汤吓得回头便跑。第七师节节败退，张敬尧急得连连向北洋政府请援，请下讨伐令，段祺瑞力主再度对南用兵，徐世昌却捻髯微笑，慢吞吞地说：
“算了吧，大事化小，小事化无罢了。”
这一万余众湘军，因为吴佩孚撤了防，只花14天工夫，便将皖系主力张敬尧的十万大军全部击溃。六月初，张敬尧搜刮来的1000余件箱笼运走。又逼迫总商会向长沙市民勒索了好几十万大洋。六月十一日他仓促撤出长沙，一直到了汉口。湖南一省，除北洋第十六混成旅冯玉祥部还在常德，仍回湘军怀抱，而将北洋军阀势力，全部逐出省外。
吴佩孚的部队撤出湖南，经过武汉，受到湖北督军王占元和地方人士、青年学生的热烈欢迎，雄赳赳，气昂昂的齐整队伍，通过武汉街头，高歌一曲吴佩孚自己作词的“满江红”，又称“登蓬莱阁歌”：
北望满洲，渤海中风浪大作！想当年，吉江辽沈，人民安乐。长白山前设藩篱，黑龙江畔列城郭。到而今倭寇任纵横，风云恶。
甲午役，土地削，甲辰役，主权弱，江山如故，夷族错落，何日奉命提锐旅，一战恢复旧山河！却归来永作蓬山游，念弥陀。
歌声慷慨激昂，响彻云霄，使得驻足欢迎的百姓、学生热血沸腾。荡气回肠。武汉是辛亥革命的首义之区，最富革命朝气和蓬勃焕发的精神，但自黎元洪被诱北上，袁世凯及其鹰犬屠杀首义元勋。继之以北洋军阀的轮流盘踞，压制自由，横征暴敛，湖北人动辄得咎，多年以来，武汉反成了黑暗恐怖，生气灭绝的地界。只有民国九年五月三十日这一天，吴佩孚率部北归过境，又给武汉百姓带来了鼓舞和振奋，于是成千上万的人，眼中噙泪，攘臂欢呼，万万千千条嗓子齐声在喊吴佩孚是“革命将军”！
吴佩孚和王占元私交不错，在公的立场，又同属北洋直系，王占元诚意地留他在武汉盘桓数日。但是吴佩孚因为当前局势外弛内张，还不知道皖系段徐对自己将从何处下手？另一方面，自己的队伍受到当地民众如此盛大热烈，出自衷诚的欢迎，他也怕王占元耳闻目睹，心中不是滋味；喧宾夺主，伤了和气，他是雅不欲为的。因此，他从汉阳龟山拾舟登陆，到谌家矶车站，登上平汉铁路的专车，准备绕城而过，避而不在武汉市区露面。然而，王占元待客殷勤，执意不肯，他率领高冠峨服的各级将校、政府首长、地方士绅，列队在龟山恭迓，苦苦挽请吴佩孚在武汉多住几天。于是吴佩孚便留下来观望风色，布署长江各督的联络事宜，直到他的队伍全部过境方始离去。不过他在武汉时期，深居简出，很少在公众场合出现，而且处处礼让尊重王占元。吴佩孚的这一手，颇使武汉百姓失望，却让王占元直在暗中说：
“子玉这人，挺够意思！”
由于王占元、赵倜和曹锟的安排，平汉铁路的火车车厢，几已全部集中，沿线客货为之停运，专门运送吴佩孚的大军北上。因此，一列列火车首尾相衔的向北开，行军速度，非常之快，专车抵达郑州，河南督军赵倜，派他的弟弟赵杰，亦即宏威军司令，在车站以隆重军礼迎迓。吴佩孚在郑州住了几天，部署军事，早先他已决定拿洛阳当作一个据点，以便和保定的曹锟采犄角之势，遥相呼应，并且可以兼顾陕晋豫川，乃至华中一带。河南督军赵倜感激他的仗义执言，保全自己督军一席，正想以吴大帅为靠山，一切不成问题。不过，洛阳却驻有徐树铮的边防军，张亚威、宋一勤两个旅，徐树铮自以为西北边防军是全国部队的精英，吴二爷却偏不把他们看在眼里，他派第三师第五旅旅长董政国，便带他的本部人马开到洛阳驻防，轻而易举，夺得了洛阳的控制权。
其余第六旅和三个混成旅，吴佩孚在六月中旬，全部带回第三师的老家——保定，孚威将军不是闪电战的祖师吗？这一次，他动作更快，五月底还在南岳衡山一带驻防，六月中旬，京汉铁路沿线，从保定一直到高碑店，就只看得见北洋第三师的军旗和番号了。吴佩孚自己，从容部署竣事以后，轻装简从，回到保定府，和曹锟相见，两人都是不胜之喜，只是彼此都有个了解，直皖两系，势必付之一战，因此，一连多日，关起门来秘密会商，显得分外的忙碌紧张。
一年以来，吴佩孚的声望急速增长，他以国民的公意，发为各种政治主张，用铁一般的事实，贯彻息争御侮的决心，“吴佩孚”三个字成为中国人的新希望。第三师撤防北归，遂为中外报章的大新闻，英美报纸，尤以长篇累牍的报道与评论，把他形容、歌颂为“新中国的大英雄”。但是吴佩孚却偏不稀罕洋人加诸于他的这份殊荣，他对外谈话，仍然口口声声的不结交洋人，不举外债，不进租界，尤其重要的是，他不要地盘，不做督军，洋人力捧，吴佩孚便给他们兜头一盆凉水。这么一来，益更使中国同胞对他大声喝彩，把他佩服得五体投地，吴佩孚的个人声望，达到了空前未有的高峰。
乘着自己的声望如日中天，吴佩孚很巧妙的运用其政治手腕，广结外援，增长声势，向国人共弃的皖系同申声讨。头一步，他请曹锟派出代表，分赴“中立”各省，进行游说，然后，他将曹三爷建立的八省联盟，扩大范围，增列单位，使其包括了长江六省，黄河六省，外加上新疆。这十三省是公开表示参与直系阵营，张作霖的东三省则属于暗中联络，大战一起，立即携手，因此，曹、吴的这个庞大阵营，实已扩充到16个行省之多。
13省联盟，提出了吴佩孚的政治主张：（一）各省防军，一律撤回原防地，惟南军例外。（二）拥护靳内阁，不反对段祺瑞，但却必须罢黜徐树铮。（三）宣布安福系的罪状，请求政府强制解散安福国会和安福俱乐部。
在这一段时期，北京城里，由“新华老人”徐世昌坐镇的“大总统府”，早已闹得天翻地覆，不可开交。从吴佩孚擅自撤防大举北上，张敬尧痛失三湘，吴光新兵溃荆沙，皖系在西南的两支大军几将土崩鱼烂、全部星散，直把段祺瑞气得三尸暴跳，七窍生烟，将吴佩孚恨得牙痒痒的，恨不得生啖其肉。他无法上保定去找曹、吴算账，便成天缠着徐世昌、靳云鹏大吵大闹，逼着总统和内阁下令，将曹、吴二人革职拿问。老谋深算的徐世昌，眼见吴佩孚雄师北来，曹、吴会合，13省联盟声势浩大，早先部署的棋子发生了作用，腰把子渐渐地硬了。他对付老段。便开始从嗯嗯啊啊，变成了哼哼哈哈。张敬尧告急，他说是“大事化小，小事化无”，根本置之不理。长沙一失，他反而板起脸来下道电令：褫夺张敬尧的本兼各职。吴光新明明受厄于冯玉祥和王占元，跟张敬尧两个伤心人相对，徐世昌好生挖苦他一下，派他为湖南检阅使，责令收复三湘，却又加委直系大将王占元为两湖巡阅使兼管湖北、湖南，最妙的则为他命令张敬尧“瓦解”了的军队，即刻“交”由王占元接管。
徐世昌明枪暗箭，刺戳得段祺瑞好不疼痛，而且防不胜防，拿这位新华老人，无可奈何，于是一口恶气，尽吐在靳云鹏身上。靳国务总理虽可获得老弟兄吴子玉的大力支持，可是，段祺瑞终究是他的老师、老上司，当面无法抹下脸来，吃老段逼不过，他便决心掼纱帽了。靳云鹏在辞职以前，先去谒见“太上总统”段祺瑞，说了半天自己的“病”况，然后恳切陈词：
“实在因为病魔缠身，难任繁剧，我想辞职了。”
殊不知，段祺瑞真的在以“太上总统”自居，听了靳云鹏的话，他便一声冷笑，回答他说：
“你果然有病，暂时休养休养，倒也无所谓。只不过，将来你可莫要说是受了哪个哪个的排挤，让你干不下去，非辞不可啊！”
莫说是幕后操纵政局的段祺瑞，这个话，连新华宫里的大总统，也不该如此直说的呀。靳云鹏憋一肚皮气，回家便写了辞呈，送给徐世昌。徐世昌制皖有望，怎肯放过他这个好帮手，批了个准给病假十天，暂委海军总长萨镇冰代理。
吴佩孚全师而还，十三省联盟宣告组成，徐世昌看看时机快成熟了，还有一位举足轻重的要角，应该上场。为了不露痕迹，找个陪衬，他电令奉督张作霖、直督曹锟和苏督李纯，入京共商大计。命令下达，李纯因病告假，曹锟推说抚慰归军未便轻离保定。带着盛大扈从，赫然晋京的惟有奉天督军张作霖。
民国九年六月十九日，张作霖到了北京，先谒徐世昌，密谈良久。辞出后，表面上便以奉大总统之命，调解直皖争执的姿态出现。
驱车往访段祺瑞，两个人还正经八百地展开谈判，张作霖“劝”老段，不妨接受十三省同盟四条件中的三条，而保全安福俱乐部，不解散安福系操纵的国会。
几经折冲，段祺瑞动了肝火，他厉声地说道：
“好呀，便依你的！取消中日军事协定，照办。小徐可以开去西北筹边使，改任远威将军，留在北京办事。第三条靳翼青是真心真意要辞职，何必非难为他不可，换个别人，倒也可以商量。”
张作霖正自暗忖，老段怎么会如此好相与的呢，照他所答应的，调停争执，说不定会弄假成真，竟了大功咧。
但是，紧接下来，段祺瑞又咬牙切齿地说：
“我这儿只有一个条件，吴佩孚必须跟小徐同时免职。”
张作霖一吐舌头，说了声：
“这个。恐怕办不到吧！”
老段眼珠一弹，疾颜厉色地问：
“你怎么晓得办到办不到？”
决心不跟他引起争论。张作霖仍然一副和事佬的腔调，他说：
“好吧，让我上保定府去走一遭。”
