段文昌自幼客居荊州，爲人豁達豪爽，不拘小節，節度使裴胄雖知其才，但卻不能加以任用。貞元十七年(801年)，段文昌入蜀，被西川節度使韋皋闢爲幕僚，授校書郎。
段文昌早年曾入韋皋幕府，後歷任靈池縣尉、登封縣尉、集賢校理、監察御史、補闕、祠部員外郎、翰林學士、祠部郎中。
元和二年(807年)，李吉甫拜相。段文昌曾在李吉甫擔任忠州刺史時前往干謁，因此得到提拔，被擢升爲登封縣尉、集賢校理，後歷任監察御史、補闕、祠部員外郎。後來，唐憲宗欲授段文昌爲翰林學士，但被宰相韋貫之阻撓。元和十一年(816年)，韋貫之罷相。段文昌得授翰林學士，並升任祠部郎中，獲賜緋色官衣。
元和十二年(817年)，宰相裴度平定淮西之亂。刑部侍郎韓愈奉詔撰寫《平淮西碑》，大力歌頌裴度的功勳。李愬在平亂時功居第一，在碑文中卻甚少提及，因此憤憤不平。其妻韋氏向皇帝申訴，稱碑文內容不實。唐憲宗遂命人將韓愈的碑文磨去，讓段文昌重新撰寫。元和十四年(819年)，段文昌又加知制誥。
唐穆宗繼位後，段文昌拜相，擔任中書侍郎、同平章事，後以使相出鎮，擔任西川節度使。此後歷任刑部尚書、兵部尚書、淮南節度使、荊南節度使，封鄒平郡公。
長慶元年(821年)，段文昌上疏，請辭相位。唐穆宗遂任命段文昌爲西川節度使、同中書門下平章事。段文昌素知蜀地民情，到任後雖治政寬仁，但卻法紀嚴明，深受蠻夷畏服。
長慶二年(822年)，雲南蠻族侵入黔中。朝廷接到黔中觀察使崔元略的奏疏，非常擔憂，詔命段文昌嚴加防備。段文昌派使者前往談判，蠻族退兵而去。長慶四年(824年)，唐敬宗繼位。段文昌被徵拜爲邢部尚書，後改任兵部尚書，並代理尚書左丞。
826年(寶曆二年)，唐文宗繼位。段文昌升任御史大夫，進封鄒平郡公，後又出鎮淮南，授檢校尚書右僕射、同平章事、淮南節度使。太和四年(830年)，唐文宗調段文昌爲荊南節度使，改授檢校左僕射。
太和九年(835年)，段文昌在西川節度使任，唐文宗派宦官到西川賞賜春衣。段文昌可能是興奮過度，剛剛受宣完畢便突然去世，時年六十三歲，被追贈爲太尉。
人物評價：
劉昫：文昌布素之時，所向不偶。及其達也，揚歷顯重，出入將相，洎二十年。其服飾玩好、歌童妓女，苟悅於心，無所愛惜，乃至奢侈過度，物議貶之。
