成吉思汗死后,蒙古汗国的汗位又陆续传了几代。公元1251年,贵由汗死后,汗位传到了蒙哥的手里。
蒙哥做了大汗以后,派弟弟忽必烈主管整个黄河以北地区的军事、行政事务。忽必烈借此机会结识了一批有学问的汉族知识分子,让他们做了自己的谋士。这些谋士向忽必烈讲述“汉法”,教他如何用中原的封建制度来统治全国。忽必烈胸怀大志,听了这些话很受启发。公元世祖忽必烈像元1258年,蒙哥发动三路大军攻打南宋,不久就病死在合州(今四川合州)的钓鱼台城。蒙哥死前,没有留下遗诏指定汗位继承人。蒙古朝廷中的一部分势力准备拥立留守漠北的阿里不哥为汗,另一部分人却拥护忽必烈。忽必烈与众臣商议,与南宋议和,然后派人迎接蒙哥的灵车,接受大汗的宝玺,自己则带着少数随从,火速赶回了燕京。他假借蒙哥的遗言,遣散了阿里不哥的兵力,并取得了蒙古一些重要大臣们的支持。1260年,忽必烈召开忽里台大会,继承了汗位。后来,由于阿里不哥思想保守落后,滥杀军将,抢夺财宝,很快就闹得众叛亲离。经过四年的战争,忽必烈终于打败了阿里不哥,取得了最后的胜利。
忽必烈继承了汗位以后,将政治中心从蒙古的和林移到了中原,开始实行“汉法”治理国家。公元1271年,在进攻南宋取得不断胜利的情况下,忽必烈接受汉族谋士刘秉忠的建议,取《易经》中“乾元”(极大)的意思,把蒙古国改为“大元”,元朝正式建立,忽必烈就是元世祖。元世祖在全国颁布建国诏书,向世人说明自己所统治的国家不只有蒙古一个民族,而是中国历代封建王朝的延续。第二年,忽必烈把燕京(今北京)改称大都,正式定为全国的首都。
忽必烈在位35年,重视以汉族传统法制治理国家。他重视农桑,兴修水利,设立驿站,制定法律和各项制度。忽必烈为了更好地控制全国,设立了行省制度,对后世产生了深远影响。他还强化中央对边远地区的控制,将西藏纳入中国版图,促进了我国多民族国家的统一和发展。