杜黃裳年輕時考中進士，又中制舉宏辭科，受到宰相杜鴻漸的器重，被朔方節度使郭子儀闢爲從事。大曆十三年(778年)，郭子儀入朝，命杜黃裳留守朔方，主持軍務。李懷光趁機矯詔，欲誅殺大將溫儒雅等人，以取代郭子儀。杜黃裳辨認出詔書乃是僞造，質問李懷光，使其陰謀未能得逞。
升任宰相
唐德宗貞元年間，杜黃裳入朝，擔任侍御史，因與寵臣裴延齡不睦，十年未得升遷。永貞元年(805年)，唐順宗繼位，杜黃裳因女婿韋執誼拜相，得以升任太子賓客，後改任太常寺卿。
當時，唐順宗病重，不能理政。翰林學士王叔文當權，與韋執誼等人進行政治改革。杜黃裳加以反對，主張由皇太子李純監國。韋執誼勸道：“您怎能剛升官就談論禁中之事。”杜黃裳怒道：“我受三朝厚恩，怎能因一個官職便出賣自己。”
同年七月，唐順宗命太子李純監國，主持朝政，並擢升杜黃裳爲門下侍郎、同中書門下平章事。八月，唐順宗稱太上皇，退居興慶宮，並冊立太子李純爲皇帝，是爲唐憲宗，杜黃裳充任冊立副使。唐順宗去世後，杜黃裳又充任喪葬禮儀使。
力主平藩
元和元年(806年)，夏綏銀節度使韓全義入朝。杜黃裳認爲韓全義奸邪諂媚，毫無建樹，勒令其致仕退休，任命李演爲節度使。夏綏留後楊惠琳舉兵拒命，被部將張承金斬殺。
不久，西川節度副使劉闢叛亂。朝臣都認爲蜀地險要，易守難攻，不主張出兵討伐，只有杜黃裳主戰。他要求罷免宦官監軍，將軍事委託給神策軍使高崇文，並在朝中決策戰略。西川平定後，百官朝賀，唐憲宗對杜黃裳道：“這都是你的功勞啊。”
後來，杜黃裳與唐憲宗提到節度使任命問題，奏道：“德宗皇帝姑息藩鎮，使的藩鎮將帥權力膨脹，朝廷政令難行。陛下應吸取教訓，嚴整法度，削弱藩鎮權力，加強中央集權。”唐憲宗深以爲然。杜黃裳又道：“爲君者應修己任賢，掌握大政綱領。只要用人得當，責其盡職，有功必賞，有罪必罰，誰還敢不盡力?”唐憲宗聽取了他的建議，着力整頓朝綱，掃滅齊蔡叛軍，收復兩河一帶，使貞元以來的動亂局勢有所改變。
晚年生活
杜黃裳雖有治國之才，但不拘小節，因而未能久居相位。元和二年(807年)，杜黃裳出鎮河中府(治今山西永濟)，擔任檢校司空、同平章事、河中尹、河中晉絳慈隰節度使，加封邠國公。
元和三年(808年)，杜黃裳病逝，終年七十一歲，追贈司徒，諡號爲宣。元和八年(813年)，御史臺上奏憲宗，揭發杜黃裳曾接受高崇文的賄賂，杜黃裳之子杜載在受審時承認屬實。唐憲宗念及杜黃裳之功，不予追究，並將杜載釋放。
會昌六年(846年)十月，杜黃裳與裴度、李愬、高崇文等配享憲宗庭廟。
慘綠少年
潘孟陽擔任戶部侍郎，其母劉夫人對他道：“以你的才幹坐上丞郎之位，我怕早晚會出事。”潘孟陽再三寬慰，夫人道：“你把同僚請來，讓我看看。”客人到後，夫人躲在簾後觀察，對兒子道：“他們都是和你一類的人，我用不着擔憂了。末座身穿慘綠(淺綠)衣服的少年是誰?”潘孟陽道：“補闕杜黃裳。”劉夫人道：“這個人跟別人都不一樣，將來一定是位有名的卿相。”後人便用“慘綠少年”來形容風度翩翩的青年男子。
敝乘拒賄
淄青節度使李師古對杜黃裳非常忌憚，命幹吏帶着幾千貫錢和一輛價值上千貫的車子，去賄賂杜黃裳。幹吏在杜黃裳家的門外觀察了幾天，看到院中擡出一頂綠色的轎子，跟着兩個青衣襤褸的婢女。他得知轎中是宰相夫人後，急忙返回淄青，告知李師古。李師古遂放棄賄賂杜黃裳的計劃，終生不敢對杜黃裳失禮。
宰相肚量
杜黃裳爲卿士時，女婿韋執誼對他很不尊重。後來，韋執誼獲罪，杜黃裳卻全力營救。韋執誼病死嶺外，他又上表皇帝，請求將其靈柩運回安葬。
杜黃裳一次患病求醫，醫士因失誤用錯了藥，使得他病情加重，但他始終都沒有生氣發怒。
