这一时期，忽必烈没能收取蒙古故土。阿里不哥的势力依然盘踞在那里。察合台的后代阿鲁忽也承认阿里不哥的地位。他是突厥斯坦汗国的国主，占领了别失八里、阿力麻里和察合台系封地的其他地方，势力延伸到了阿姆河。可是仅仅几个月后，这个人却掉转马头，转而支持忽必烈。阿不里哥腹背受敌，只能带兵去平定突厥斯坦。阿鲁忽在不剌城（一般认为不剌城位于额必湖的南边）杀死了阿不里哥的将军哈剌不花。阿里不哥让阿速台攻击阿鲁忽，占领了固勒扎附近的阿力麻里，阿鲁忽放弃了伊犁地区，来到了喀什加里亚，再撤到撒麻耳干。
阿里不哥占据伊犁地区，但是他作为游牧民族的后裔，无法在突厥斯坦定居下来。阿力麻里人也忍受不了他的残忍行径，连他手下的将军都不待见他。某些军人还投靠了驻扎于札八罕河（地图上位于乌里雅苏台地区的查孛罕或查卜肯库尔）的忽必烈前锋部队。到了后来，斡儿哈那哈敦也不再支持他，最后，他众叛亲离。阿里不哥被察合台的子孙和忽必烈的军队重重围困，只能投降。至元元年七月（1264年7月25日-8月22日），阿里不哥、阿速台、昔儿吉等人都来投降忽必烈。因为他为人过于残暴，最终被众人唾弃。
忽必烈接见了阿里不哥。阿里不哥上前请罪，被人们用帐帘罩住了，只能这样继续跪拜。忽必烈让他进入御帐，然后让他站着。忽必烈看到他在哭泣，自己也被感动落泪，于是说：“我的弟弟啊，我们两人到底谁有理？”阿里不哥回答道：“以前是我，现在是你。”成吉思汗侄子脱合察儿那颜马上说：“合罕所欲的是今天，不问过去的事，只追寻欢乐。”然后，宴会就开始了。但是第二天，忽必烈就让人把反对他的各个将领抓起来，杀死了十几个人。阿里不哥和阿速台虽然没有被惩罚，可是阿里不哥却在一个月后离奇死去。
第八节忽必烈占领南宋，征服海都
忽必烈平定内乱之后，掌握了蒙古全境，然后开始了征讨南宋。《拉施特书》《元史》以及马可·波罗的作品都详细记述了这件事情的始末。他们首先开始围攻襄阳和樊城。从1258年阴历九月（公历9月9日-10月7日）到1273年阴历二月（公历2月19日-3月20日），他们一直在围攻襄阳。参加战役的有巴阿邻族的大将伯颜，速不台之孙、兀良哈台之子阿术和畏兀儿人阿里海牙，以及回族人匠师毛夕里人阿老瓦丁和希拉人亦思马因。伯颜成为攻破南宋国都临安的蒙古大将。1276年阴历二月（公历2月17日-3月16日），南宋投降，阴历三月（公历3月17日-4月15日），伯颜进入临安。宋幼帝赵隰（格鲁塞这里作系帝，为其译音）受到忽必烈的款待。可是其他地方的汉人依然有反对蒙古的势力，他们在广东地区集结起来，反抗蒙古人的侵略。1277年，广东最后的据点也被攻破。4月3日，最后的水军在崖山之战失败，南宋的势力被肃清。忽必烈的帝国占据了整个中原。
上亚细亚却一直不承认忽必烈统治过这一地区，这说明了，元朝的产生，使原来的蒙古帝国失去意义。
海都是紧接阿里不哥反抗忽必烈的人。他是窝阔台第五个儿子合失的儿子。根据《元史》的记载，窝阔台的家族失势之后，海都就在1250年被流放到海押立（即伊犁地区的库巴勒附近）。海都有着优秀的才能，他仍然保存着最原始的蒙古人的游牧生活形式。聂斯脱利教派或者其他派系的基督教信徒都很赞许他。他在总领叶密立和塔尔巴哈台地区的世袭封地后，很快就让察合台家族的人也归附于他，并把他们的封地喀什加里亚和河中地区也掌握在手中。他在1267年到1301年，实际统治着中亚细亚。
从此时开始，他就与忽必烈开始了对抗行动。1274年，他赶走了忽必烈派驻在喀什噶尔、叶尔羌和和田地区的官员。1276年，他带领察合台汗都哇开始进犯库车－吐鲁番。他还想征服畏兀儿的亦都护。后来援军到达，才让畏兀儿国王幸免于难。1275年，忽必烈派遣儿子那木罕到突厥斯坦地区去，同行的有忽必烈的另一个儿子阔阔出、蒙哥的儿子昔儿吉和忽必烈的侄子脱黑帖木儿。脱黑帖木儿非常骁勇，喜欢骑白马，拉施特说：“一般人为了让敌人不易看出受伤流血，常选择暗色的马。而他却认为马和骑士之血染红战士，就像妇女用朱红装饰容貌一样。”为了分散察合台家族和窝阔台家族的联盟，那木罕驻扎于巴尔哈什之南、伊犁河谷中固勒札附近的阿力麻里城。他们驻扎此地，是为了昭示皇权。从1276年开始，忽必烈在喀什加里亚、和田、叶尔羌和哈什噶尔都树立了权威。
忽必烈不断努力，意图收拢皇权，王子那木罕驻扎阿力麻里可以昭示这一点。他选择了一个很好的地方，察合台汗国、波斯的旭烈兀汗国，罗斯的术赤汗国都处于他的监视和控制下。忽必烈这一招，完全让他确立了自己的威望。可是1250年和1260年的两次变故后，他目空一切，无视法纪，随意变动成吉思汗的祖训，摒弃了忽里勒台，使蒙古人一向的过于自由的天性又再次恢复，而且愈演愈烈。1276年，脱黑帖木儿由于不满忽必烈分封的地方，他煽动蒙哥的儿子昔儿吉造反称帝。两人一拍即合以后，晚上就把那木罕绑了起来，让钦察汗忙哥帖木儿看管起来。他们还串通了察合台的儿子撒儿班，他们都与海都有所联系。海都看见了谋反的机会，于是领军进入哈拉和林，占据了蒙哥以前所用的御帐。这一事件十分严重，我们可以怀疑，忽必烈或许因为忙于对南宋的战争，无暇顾及自己在蒙古地区的权威和上亚细亚的领土。
忽必烈感到了危险的苗头，于是暂时放缓了侵略南宋，让自己最强的将领伯颜前去解决蒙古的问题。伯颜来到鄂尔浑河，和造反的盟军交战，打败了昔儿吉，把他们逼退到也儿的石河上游，这里是窝阔台家族的封地。忽必烈的另外一些军队，横渡塔米尔河，去攻击哈拉和林地区。脱黑帖木儿一度进犯斡难河和土拉河河源，但是很快就被打了回去。
这一造反联盟在失败之后互相倾轧，蒙古似乎又回到了分裂的状态。脱黑帖木儿对昔儿吉感到不满，于是便让撒儿班成为合罕，废除昔儿吉。阿里不哥的儿子药不忽儿却不同意，要跟随昔儿吉。脱黑帖木儿后来被自己的军队抛弃，并被昔儿吉抓住，最后在药不忽儿的怂恿下被杀死了。撒儿班也只得投降昔儿吉，却被送去给术赤系后人当人质。撒儿班后来逃跑了出来，召集人马攻打昔儿吉，得到胜利，抓住了昔儿吉和药不忽儿，然后把昔儿吉绑去朝见忽必烈。
海都还在蒙古草原的西部和突厥斯坦占据着一席之地，忽必烈却不用担心哈拉和林和蒙古中部的问题。可是十年不到，海都又再次组织联盟，去和忽必烈作对。这个联盟里有他的支持者察合台家族的汗都哇，还有许多来自东边的蒙古亲王：一、乃颜，拉施特的说法，他是帖木格·斡赤斤的后人，《元史》则说他是别勒古台的后人；二、势都儿，据说是哈撒儿之孙；三、哈丹，成吉思汗第二个弟弟合赤温的后人。可见这是成吉思汗时代弟弟们的后人的联盟，反抗成吉思汗的后人。成吉思汗弟弟的后人们遍布今天中国的东北地区还有蒙古草原，随时能够威胁哈拉和林，看来忽必烈的统治形势依然十分严峻。
面对这些威胁，忽必烈虽然已经72岁，但还是不屈不挠。他让伯颜前去哈勒和林守护国都，与海都对峙。他带着博尔术的孙子玉昔帖木儿亲自到辽东地区（满洲南部）打击乃颜。他遭遇了蒙古的古老战法，用车辆回环守卫。马可·波罗描述这场战争是“这个时代最危险、最难决胜负和最艰苦”的一场战斗。乃颜最后战败，忽必烈赐他不流血而亡，“裹之以毡，用力摇之，直至魂魄离体”。1287年阴历八月（公历9月9日-10月8日），忽必烈回到多伦泊的上都驻地。
第二年，忽必烈的孙子铁穆耳和玉昔帖木儿在贵烈河附近击败了哈丹，收复了辽东到黑龙江的所有土地。
海都还在突厥斯坦和准噶尔顽抗。忽必烈让孙子亲王甘麻剌去守卫边境，却被海都的军队在翻过杭爱山山脉的时候打败，后来还被围困在色楞格河附近，最后侥幸生还。忽必烈见此情形，只能御驾亲征。这时候已经是1293年了。
忽必烈逝世于1294年2月18日，那时候海都还是盘踞在杭爱山以西的西蒙古和突厥斯坦。巴阿邻部落的蒙古地区也在他的掌握之中。忽必烈的继承人，他的孙子铁穆耳派将军床兀儿带兵出征，在答鲁忽河和阿雷河战胜了敌人。大德二年（1298年）秋天的时候，各位将领以为海都和都哇已经无力反抗，于是准备逐渐带兵离去。只留下汪古亲王阔里吉思（这个突厥人原本信奉聂思脱利教，后来信奉天主教，所以他更著名的称呼是乔治亲王）驻守在此地。冬天的时候，海都和都哇带兵突然来袭，阔里吉思总共抵抗了四次，最终被俘。他坚强不屈，最后还是被杀死。1301年，海都又一次发动叛乱，他们在和林和鄂尔浑河左边支流塔米儿河中间与铁穆耳的侄子海山发生战斗。海都最终战败，不久便死去了。1309年，察合台家族的人打败了海都之子察八儿，他只能到北京寻求庇护。
虽然忽必烈自以为富有四海，也得到了异国人马可·波罗的称赞，但是他在蒙古的控制力并不如在中原地区。蒙古部落的反叛，海都建立了上亚细亚汗国，割断了中原和波斯的联系，也造成了忽必烈和弟弟旭烈兀的分割。除此之外，察合台家族和钦察诸位汗王都不愿意向忽必烈俯首称臣。忽必烈的势力范围实际上主要是在中原大陆，并不是真正意义上的蒙古“大汗”。1301年后，他后来的继承人让其他汗国都臣服，但当时蒙古已经分裂，被中原汉族、波斯人、突厥人等同化。虽然表面上看蒙古帝国幅员辽阔，但实际上却难以为继。
蒙古人也在这一个时期也进入了佛教和伊斯兰教的世界。萨囊彻辰虽然也是黄金家族的后裔，但他记叙成吉思汗事迹的时候不免让人感觉吞吞吐吐，前后矛盾。他在说起忽必烈薛禅时，称赞他为“咱噶喇斡尔迪”，即世界共主、佛法的保护者，还称之为“呼图克图”，这个名称意为尊敬和神圣，是对宗教领袖们的专门称呼。萨囊彻辰只跟我们叙述了忽必烈和萨迦寺庙长老和玛哈也力派神灵的关系，甚至与玛哈噶拉本身的关系，却没有提起忽必烈对中原南部的统治。虽然在我们看来，忽必烈的名字就象征着蒙古对中原的统治，但中国史家却不能自如地叙述蒙古地区的战争，不懂得一些地方的地理位置。他们把这位君主叫作元世祖皇帝。其他国家的历史学家在研究忽必烈对安南（越南古称）、日本、东南亚各地征战的时候，多会征引中原历史学家的记载，在这样语境下，他不再是蒙古族的汗王，而是中国一个朝代的君主。他们的看法是符合历史事实的，在这里我们可以划清界限：元朝的历史应由中原历史学家书写，亚洲另一端的历史则应由波斯历史学家去记载。
