在蒙古诸部当中，只有泰赤乌部地广人多，最为强大。泰赤乌部落中的照烈部，与铁木真所住的地方相近。铁木真外出打猎时，偶尔与照烈相遇，就对他说：“今晚可以同住在一起吗？”照烈说：“住在一起倒是好，但是随从来的四百人，由于粮食不够，已经回去一半了，这将怎么办？”铁木真坚持邀请他同去，凡是留下来的都给他们饮食。第二天再次合围打猎，铁木真让左右将野兽驱赶到照烈那边去，照烈就猎获很多带着回去了。其部众知道后，私下议论说：“泰赤乌与我们虽然是兄弟，常常却侵略我们的车马饮食，没有人君的气度。有人君大度的也只有铁木真了。”照烈部首领玉律，时常受到泰赤乌部欺辱，遂与塔海答鲁率领所部归附铁木真，并打算杀泰赤乌以效力。后来二人又叛去，塔海答鲁至半路途中被泰乌赤部所杀。照烈部灭亡。
铁木真宽厚仁爱，力量逐渐强大，在诸部中的威望也越来越高，泰乌赤部大多都慕名而降。
克烈部札阿绀孛率众归附铁木真。札阿绀孛是其部长汪罕的弟弟，汪罕名脱里，受金朝封爵为王，汪罕就是王的意思。当初，汪罕的父亲忽儿札胡思歪禄死后，汪罕即位，汪罕大肆杀戮昆弟。其叔父菊儿罕率兵与汪罕交战，汪罕败走，逃奔到也速该部，也速该亲自率兵攻打菊儿罕，菊儿罕败走西夏。其部众又归汪罕。汪罕感恩，遂与之结盟。也速该死后，汪罕的弟弟也力可哈剌又叛归乃蛮部。乃蛮部首领亦难赤为其发兵讨伐汪罕，又夺汪罕的部众与其弟。汪罕逃走，投奔契丹，后来又叛逃回来，铁木真以其与父亲交好，派近侍前往招他，并亲自迎接慰劳，在土兀剌河相会，铁木真尊汪罕为父。
后来铁木真讨伐蔑里乞部、掠其资财、庄稼，给了汪罕，汪罕部众稍集。
铁木真与汪罕部合兵征讨乃蛮部，至黑辛八石之野，遇乃蛮部前锋也的脱孛鲁率领百骑来战，见铁木真大军逼近，转而走据高山，后来其马鞍掉地，被擒。不一会儿，铁木真又与乃蛮骁将曲薛吾、撒八剌二人相遇，当时天色已晚，各自还营，相约明日再战。当日晚上，汪罕在营中燃起大火，暴露军中情况，而自己却将部众转移别处。第二天早晨铁木真得知后，便怀疑他有异志，于是退到萨里河。继而汪罕也还军至土兀剌河，汪罕又遣使来铁木真处借将调兵。铁木真派木华黎、博罗浑、赤老温等人率军前往击败乃蛮，将其所掠如数夺回，又归于汪罕。其后，铁木真与其弟会撤儿再讨伐乃蛮，在忽阑盏侧山大战，乃蛮大败，铁木真等尽杀其诸将族众，将尸体堆积起来封土筑成高冢。乃蛮部势力大为削弱。
当时泰赤乌部仍有很强大的势力。铁木真与汪罕在萨里河会兵，与泰赤乌部首领沅忽等大战于斡难河上，打败了沅忽，斩杀及俘获无数。
1189年，铁木真被推为蒙古部首领。
哈答斤部、散只兀部、朵鲁班部、塔塔儿部、弘吉剌部听说乃蛮、泰赤乌部等大败，自身都感到不安，诸部首领在阿雷泉会合，斩白马为誓，准备联合起来袭击铁木真和汪罕。弘吉剌部长迭夷恐怕不能成功，就暗地派人报告给了铁木真。铁木真与汪罕遂于虎图泽起兵迎战，一直打到歪亦烈川，又大败各部的联军。
铁木真驻军于彻彻儿山，起兵讨伐塔塔儿部，塔塔儿部长阿剌兀都儿率兵迎战，亦被铁木真打败。
当时弘吉剌部想前来归附，而铁木真弟哈撒儿不知其意，率兵前去掳掠。于是弘吉剌部归附札木合部，并与朵鲁班、亦乞赤思、哈答斤、火鲁剌思、塔塔儿、散只兀诸部会集于犍河，共立札木合为局儿罕，即众部之主或全体之君。诸部在秃律别儿河岸边举行结盟仪式，盟誓说：“凡是我同盟，有泄露此谋者，就像河岸被水冲刷，林木被砍伐一样。”发誓完毕，大家共举足踏岸，挥刀砍树，然后率领士卒来侵。当时有位叫塔海哈的人也在其中，他与铁木真部下抄吾儿联姻，抄吾儿一次去看望他时，他将诸部盟誓来侵的事泄露出来，抄吾儿回家后就告诉了铁木真。铁木真立即起兵迎战，在海刺儿、帖尼火鲁罕等地大败敌军，札木合逃走，弘吉剌部前来归附。
1202年，铁木真在兀鲁回失连真河发兵，讨伐按赤塔塔儿、察罕塔塔儿二部，大获全胜。
当初，兀都夷蔑里乞部首领脱脱与铁木真家族为世仇，曾率领三姓蔑里乞人掳获铁木真庶母和妻子。为铁木真、汪罕、札木合联军所袭，逃往也儿忽真隘（今贝加尔湖东）。后来又参加以札木合为首的同盟，多次与铁木真等作战。这次脱脱又会合乃蛮部不欲鲁罕，并相约朵鲁班、塔塔儿、哈答斤、散只兀诸部前来侵袭。铁木真派骑兵登上高岗四下观望，得知乃蛮兵逐步靠近，铁木真就与汪罕移兵人塞。亦剌合从北边赶来占据高地安营扎寨，乃蛮兵发动了几次攻击没有成功，又回师而去。随后亦剌合也率军入塞。将要开战时，铁木真将辎重转移别处，与汪罕倚以阿蘭塞为壁垒，大战于阙亦坛之野。当时，天气寒冷，雪满沟间，铁木真挥兵进击，乃蛮部大败。札木合部曾起兵前来声援乃蛮，见其大败，立即退还，途经拥立自己的部落时，纵兵大掠而去。
这一年，铁木真接受金朝封号为“察兀图鲁”，即招讨使。
铁木真想为长子术赤求婚于汪罕之女抄儿伯姬，汪罕的孙子秃撒合也想娶铁木真的女儿火阿真伯姬，结果两事都没有谈妥。从此两家互相指责，关系疏远。当初，铁木真与汪罕合兵攻打乃蛮时，相约第二天出战。札木合就对汪罕说：“我们是白翎雀，他人是鸿雁。白翎雀不管寒热总在北方，鸿雁遇寒冷时就飞往南方。”意思是说铁木真变化莫测，心不可保。汪罕也就有疑心，遂将部众转移别处。这次议婚不成，札木合又来挑拨，对亦剌合说：“铁木真虽然说是汪罕之子，也曾与乃蛮通信，这将不利于你们父子，你如果能加兵，我就从旁帮助你。”亦剌合相信了。正值当时答力台、火察儿、按弹等叛归亦剌合，也表示愿意帮助他讨伐铁木真兄弟。亦剌合很高兴，遣使劝说汪罕。汪罕说：“札木合巧言寡信，不能听他的。”后来札木合纵火焚烧了铁木真的牧地而去。
1203年，汪罕父子想要加害铁木真，于是派使者来说答应了以前所议的婚事，邀请铁木真前去喝订婚酒。铁木真信以为真，率领十余人前去，走在半路上，心有所怀疑，就让一人骑马前去致谢，其余都回来了。此事未成，汪罕便发兵来攻。放牧人乞失力得知后，偷偷地报告了铁木真。铁木真做好准备，大败汪罕父子的军队。
随后，铁木真进兵掳掠弘吉剌别部溺儿斤。行军至班朱尼河时，河水正浑，铁木真饮河水以誓众人。当时汪罕仍很强大，铁木真身边虽然有不断前来归附的，势力仍很小，双方胜败也未可知，从人也颇感危惧。但是凡饮过河水的人，称之为饮浑水，算是曾经共患难过。汪罕率兵前来，铁木真又率众迎击，汪罕大败。汪罕手下的按弹、火察儿与铁木真同族，又与札木合合谋想杀掉汪罕，没成功，遂一起逃往乃蛮部。
铁木真移军至斡难河之源，打算进军汪罕，于是派两名使者去汪罕处，假装传达铁木真弟哈撒儿的话：“我哥哥铁木真现已不知在什么地方，我的妻子和女儿又都在你处，假如我想去的话，也不知道从哪走。如果您捐弃前嫌，念我旧好，我就束手来归。”汪罕信以为真，派人随二位使臣前来，用皮囊装血与哈撒儿盟誓。二位使臣回来后，铁木真就以他们为向导，命令军士衔枚连夜趋往折折运都山，出其不意袭击了汪罕的营寨，汪罕败走，尽降克烈部众。
汪罕出走后，半路上为乃蛮部将所杀。亦剌哈逃入西夏，每日剽掠，被西夏人赶走，至龟兹后被杀。
1204年，铁木真率众进攻乃蛮。驻兵于建忒该山下，先派虎必来，哲别二人为前锋。乃蛮部长太阳罕从按台领兵前来，驻扎于沆海山（杭爱山），与蔑里乞部长脱脱、克烈部长阿怜太石、猥剌部长忽都花别吉以及秃鲁班、塔塔儿、哈答斤、散只兀诸部会合，兵势非常经盛。当时正是春季，马匹瘦弱，铁木真军中有一匹赢马惊慌跑入乃蛮部营中，太阳罕见了之后对众人说：“蒙古马瘦弱如此，现在应当诱其深入，然后战而擒之。”部将火力速八赤说：“你这是迁延之计，是不是心中害怕呀！”太阳罕被激怒，飞身上马，率众前来索战。铁木真以哈撒儿领中军。当时札木合也随从太阳罕前来，见到铁木真的军队阵容严整，就对左右说：“乃蛮刚举兵开战，就视蒙古兵为软弱，我看他们的气势，可不是往时可比了。”于是率领部众先逃了。铁木真与太阳罕一直战到晚上，擒杀了太阳罕，其部众连夜溃逃，掉下悬崖摔死的不计其数。第二天余众全部投降。朵鲁班、塔塔儿，哈答斤，撒只兀四部也来归顺，后来铁木真又征服了蔑里乞部。
铁木真自其父亲死后，在极其艰难的条件下，发挥自己的智谋，最初与扎答阑部札木合以及克烈部的汪罕联合，攻打其他各部，力量壮大后，又与汪罕合兵，打败了札木合，然后又消灭了汪罕的势力。这时铁木真已经具备了统一蒙古的条件，最后消灭了乃蛮部，实现了蒙古各部的统一。
1206年，铁木真在斡难河畔召开了忽里勒台，即大聚会，诸王群臣都前来参加聚会。铁木真被推举为全蒙古的大汗，人们尊称他为成吉思汗。成吉思汗是蒙古语大海或强大的意思。从此结束了几个世纪以来草原上诸民族、诸部落纷争的局面，铁木真建立了蒙古历史上第一个军事奴隶制国家，即蒙古汗国，也叫大蒙古国。
蒙古汗国建立后，成吉思汗建立了一整套行政制度，对草原牧民按十进位编制，设立万户长、千户长、百户长、十户长进行管理。他将开国功臣九十五人封为千户长。木华黎、博尔术、纳牙阿、豁儿赤四人封为万户长，分别管辖所属地区和人口。成吉思汗对他们说：“国内平定，你们出力居多。我与你们，就好像车有车辕、身有手臂一样。你们要切实体会这一点，不要改变初心。”封地内的牧民被编为十、百、千、万户，分别为这些奴隶主贵族所统领，各级贵族都是世袭的。
蒙古汗国的各级组织对辖区实行军政合一的统治，它既是军事组织，也是地方行政组织，又是生产组织。
成吉思汗为加强自身权力，组织了亲卫军，称为“怯薛”，即护卫军。这种制度是草原贵族们豢养的亲兵“那可儿”制的发展和扩大。原来只有五百人，现增加到一万人。平时保卫大汗，战时从征。另外，又设左、中、右三军，凡十五岁以上，七十岁以下的男子皆为士兵，也按十、百、千、万编制，由千户长、万户长统领。
在司法行政上，设立札鲁忽赤（断事官），并颁布《大札撤》，即法令或法典。
在宗教上，对牧民当中流行的萨满教加以利用，建立别乞制度。别乞就是蒙古萨蛮首领的称号，别乞着白衣，乘白马，聚会时位于众人之上，备受尊敬。有些部落首领本身就是别乞，在对外作战时，别乞作酢答巫术，声称能呼风唤雨，出奇制胜。成吉思汗建国后，委任兀孙老人为别乞。兀孙，又叫许孙，是蒙古八邻部人，早年拥戴铁木真为蒙古主，铁木真称汗后，封其为千户那颜，即贵族官员。因其遇事无所隐讳，被授予此职。成吉思汗主要是利用宗教为其政治服务，但不许其干预政治。
成吉思汗又让被俘的畏兀儿学者塔塔统阿以畏兀儿字母为基础创造蒙古文字。
蒙古汗国建立时的疆域：东起兴安岭，西达阿尔泰山，南与金朝相邻，北至贝加尔湖。
大蒙古国建立后，不仅实现了蒙古草原各部的统一，形成了以蒙古族为主体的新的民族，而且结束了蒙古族长期以来作为辽、金王朝的属部，僻处北疆，原始封闭的状态。蒙古民族在成吉思汗的率领下，以其雄壮的步伐，迅速迈入了中国历史的前台，对中国和世界历史的发展都带来了重大的影响。
