十六國時期，北方處在“五胡亂華”之中，四分五裂，政權林立。到了苻堅做前秦皇帝的時候，經過勵精圖治，相繼消滅多個獨立政權，從而統一了北方。
383年，苻堅調集百萬大軍南下，企圖消滅南方的東晉政權，實現全國統一。然而，前秦帝國只是表面上看似強大，內部其實矛盾重重，被征服的各族勢力雖然名義上臣服，但是無時無刻不在尋找着獨立的機會。
前秦與東晉在淝水大戰，結果大家都知道，苻堅敗得很慘。北方各族終於盼來了這大好的機會，紛紛脫離前秦自立，姚萇建立了後秦，慕容泓建立了西燕，慕容垂建立了後燕。苻堅在戰敗後，狼狽不堪地逃回北方，於385年被姚萇所殺。
就在苻堅窮途末路之時，他手下的一位將領正率軍遠征，橫掃西域。班師途中，得知了苻堅的死訊，這位將領也像別人一樣自立爲王，建立了一個新的國家。
這位將領，就是呂光。
呂光出生於337年，氐族人，可他的祖先卻是漢人，是西漢呂后的族人。呂后死後，呂氏滿門被殺，呂光的先祖呂文僥倖逃脫，來到略陽(今甘肅天水)定居，與當地的氐族人世代融合，成爲當地大族。
據《晉書》記載，呂光天生異相，“身長八尺四寸，目重瞳子，左肘有肉印”，竟然是歷史上少見的“重瞳”。而且他的性格“沈毅凝重，寬簡有大量，喜怒不形於色”。還很年紀時，呂光就被推薦到了苻堅的手下任職。22歲時，呂光在一次平亂戰爭中一戰成名，成爲苻堅的得力愛將。
在此後的二十多年裏，呂光爲苻堅東征西討，立下了赫赫戰功，爲前秦統一北方做出了重要的貢獻。
382年，也就是淝水之戰的前一年，西域的車師、鄯善兩國派使者覲見苻堅，請求前秦派人管理西域。苻堅於是任命呂光爲使持節、主帥，率七萬步兵和五千騎兵，前往西域進行征討和經略。
383年初，呂光率領大軍離開長安前往西域。當他率軍行至高昌(今新疆吐魯番)，得知苻堅率大軍南征東晉，便打算就地駐紮待命，看是否需要回師助戰。他的部下則勸他繼續執行命令，儘快平定西域。呂光率軍到達西域後，迅速了降服了西域各國。
控制西域後，呂光原本打算留在龜茲，但高僧鳩摩羅什勸他回東方，部下也請求回去。於是，呂光決定班師。385年，呂光率領着軍隊，攜帶了大量的珍寶、駿馬等從西域返回。
班師途中，呂光得知苻堅攻打東晉失敗的消息。經過涼州時，又遭遇前秦涼州刺史樑熙的阻攔。呂光擊敗樑熙後，佔據整個涼州，便停止了前進。
386年，呂光聽說苻堅已在一年之前就被姚萇所殺，在涼州下令三軍爲苻堅服喪。然後，呂光給自己加了很多封號，自稱使持節、侍中、中外大都督、督隴右河西諸軍事、大將軍、涼州牧、酒泉公。並且不再使用前秦年號，自建年號爲太安。這實質上就是自立爲王，建立了一個新的政權。儘管此時前秦還並沒有滅亡，依然有殘餘勢力存在，但是已經不被認可了。
389年，呂光改稱三河王，設置百官。後來又改稱天王，建號大涼，史稱後涼。後涼的統治範圍包括甘肅的大部分和寧夏、青海、新疆的一部分，在當時是一個不大不小的國家。
399年，呂光去世。呂光死後，由於繼任者們自相殘殺，加之外敵衆多，到403年時後涼就滅亡了。
