貴由即汗位不到兩年，便突然死去，蒙古統治集團內部爭奪汗位的鬥爭越演越烈。1251年，蒙古的王公們推舉忽必烈的哥哥蒙哥爲大汗。忽必烈領導關中漠南(蒙古高原大沙漠以南地區)漢地的軍政事務。過了兩年，忽必烈又接受了京兆(今陝西西安)的封地。他熱心於學習漢文化，任用漢人儒士整頓吏治，恢復農業，建立學校，進一步取得北方漢族地主階級對他的擁護，爲元王朝的建立提供了堅實的社會基礎。
1253年，忽必烈受命與另一大將兀良合臺一起，南征雲南，消滅了大理國。他將兀良合臺留在雲南鎮守，自己班師回朝。不久以後，便在金蓮川(今河北灤河上游)建立藩府，修築宮室，繼續任用漢族知識分子爲謀士，整頓地方行政，藩府勢力不斷壯大。這引起了蒙哥的猜疑和不滿。蒙哥派人到關中來查覈稅賦，其實真正的目的是對忽必烈的勢力進行打擊和限制。忽必烈當然知道哥哥來者不善。他聽從手下謀士姚樞的主意，親自把自己的家小送到和林作爲人質，並對蒙哥說：“如果我有二心，背叛朝廷，你就把我的家人都殺了吧!”
蒙哥聽了此話，稍稍消除了疑慮。他停止了在關中的查覈稅賦工作，但是把忽必烈在那裏設置的漢族模式的機構全部撤銷了。
1258年，蒙哥派去西征波斯等地的旭烈兀送來了勝利的消息，蒙哥因而決定兵分三路伐宋，統一天下。他親自領兵打四川，命宗王塔察兒打鄂州(今武昌)，兀良合臺打潭州。可南宋軍隊早有防備，蒙哥攻合州(今四川合州)釣魚城攻了五個月也沒攻下來，塔察兒也一直過不了長江，蒙哥只得命忽必烈去替換塔察兒。
忽必烈於1259年八月到達黃陂時，得到了蒙哥死於軍中的消息。但他不願無功而返，仍率部強渡長江，進圍鄂州。忽必烈的進攻勢頭引起南宋朝廷的震動，那個玩蟋蟀出名，靠姐姐是宋理宗的貴妃才當了宰相的賈似道，只好奉命前來應戰。
十一月，忽必烈接到妻子的密報，他的弟弟阿里不哥正調兵遣將，準備繼承汗位。這時，那個貪生怕死、貪權誤國的賈似道卻偷偷派人來向忽必烈求和，答應南宋向蒙古稱臣，以長江爲分界，把長江北面的土地全割讓給蒙古，另外每年進貢銀帛各二十萬。
忽必烈順勢答應，並迅速從鄂州撤兵。1206年4月，他在開平府(今內蒙古正藍旗及多倫一帶)即大汗位，年號“中統”。同時，忽必烈的弟弟阿里不哥在北邊即大汗位，佔據了漠北，也在積極活動，兩者互不相讓。經過四年激戰，忽必烈終於打敗了阿里不哥，從而統一了內部。
然後，忽必烈大舉南下。在攻打南宋時，他聽從漢人官員姚樞、劉秉忠的勸告，嚴禁屠殺無辜百姓，他說：“賢明的君王出征，目的是在征服敵人，而不是屠殺老百姓。濫殺無辜只會傷了國家的元氣!”
忽必烈在即大汗位時就在《即位詔》中宣佈：“祖述(指祖宗的制度)變通，正在今日”。這表明，他想採用漢法，建立一個與中原經濟基礎相適應的中央政權。1263年，忽必烈將年號改爲“至元”，並定都燕京(今北京)。忽必烈在中央設中書省，在各地分設十路宣撫司，任用漢族讀書人負責;改變蒙古開國以來的諸侯世襲制度，遵循中原漢族的傳統制度，大體奠定了元朝的政治體制規模。
公元1267年(至元四年)，忽必烈在中都燕京的基礎上，在城東北建造新的都城，四年後擴建工程結束，正式改國號爲“大元”，並在次年將燕京升爲大都。
元朝是中國歷史上第一個由少數民族統治全國的封建王朝，它初步奠定了中國疆域的規模。中央集權政治的重新確立，使得統治者將對人民的剝削限制在一定數額之內，並採取了一系列墾荒屯田、興修水利、限制抑良爲奴等有利於農業和手工業生產發展的措施，從而推動了社會的進步。
元世祖忽必烈在位三十五年，公元1294年八十歲時病逝。他是中國歷史上一位著名的少數民族政治家和軍事家。他建立了一個疆域廣闊的龐大帝國，結束了中國數百年來軍閥割據和遼、金、西夏等民族政權長期並立的分裂局面，使國內各民族之間的經濟文化聯繫進一步加強，促進了統一的、多民族的國家的穩定和繁榮。
