前趙和後趙屬於一母雙胞，均脫胎於匈奴漢國。它們的國號當時都叫“趙”——一個源於祥瑞，一個出自封爵，是後人爲了區分才加的前後，因爲二國成立的時間差了5個月。
漢國是奏響五胡亂世號角的匈奴人劉淵所建，滅掉西晉後稱霸北方。其開疆拓土倚仗兩員驍將：一個是匈奴人劉曜，向西挺進關中據守長安;一個是羯族人石勒，向東經略河北佔據襄國(今河北邢臺)。二人各自擁兵成爲有實力的軍閥，這就是後來前、後趙的雛形。
漢國一共存世15年，終止於靳準之亂。劉淵的四子劉聰殺了法定繼承人、他的異母哥哥劉和後上位，老丈人靳準就成了權臣——他的兩個女兒都是劉聰的皇后。劉聰死後長子劉粲繼位，靳準突然對劉氏皇族大開殺戒，之後自稱“漢天王”。劉曜和石勒聽說後，以平叛爲由分頭向國都平陽(今山西臨汾)進軍。
劉曜是劉淵的族子兼養子，劉氏被滅族就有了繼位的合法性，走到赤壁(在今山西河津市)便登基爲帝，同時爲了安撫石勒晉封他爲趙公。這時靳準家族內部出現矛盾，靳家人殺了靳準後向劉曜投降並交出了玉璽，什麼都沒撈着的石勒一怒之下攻破平陽。劉曜於是返回長安定都，並改國號爲“趙”。
劉曜改國號是覺得當初劉淵稱“漢”爲了籠絡人心，西晉亡了就沒必要了。改國號爲“趙”則令人費解，《晉書》中說到一個祥瑞或許可以附會：劉曜年輕時在管涔山隱居，有兩個童子夜間來訪，說“管涔王使小臣奉謁趙皇帝”，還給了他把寶劍，上有銘文：“神劍御，除衆毒。”
5個月後，被劉曜新晉爲趙王的石勒在襄國自立——當時只稱大單于並未稱帝，按封爵也立國號爲趙。如此便有了分別以長安和襄國爲中心的兩個趙國，因爲劉曜建趙在前所以被稱作“前趙”，石趙被稱爲“後趙”。
二趙淵源雖深卻是兩個完全獨立的政權。前趙傳承漢國衣鉢，本質上是漢國的延續，所以和漢國一起又統稱爲“漢趙”，或者混稱“前趙”。後趙屬於前趙分裂出去的。前趙和後趙並世而立10年之久，最終後趙滅了前趙，石勒殺了劉曜。之後石勒稱帝，北方進入後趙時代。
