755年，安祿山發動叛亂，第二年六月，叛軍攻陷潼關，進逼長安，唐玄宗逃出長安，行至馬嵬坡時，禁軍譁變，圍攻行宮，楊國忠、楊玉環等人盡皆被殺。當時，與楊國忠一同扈從在玄宗左右的宰相韋見素也被亂兵打傷，幸虧禁軍將領陳玄禮出手相救，才倖免於難。關於韋見素爲什麼能夠當上宰相，存在兩個版本的傳說。
一個說法是他被楊國忠所提拔。韋見素既是名門之後，又是進士出身，李隆基做相王時他曾在王府任職，可說是皇帝身邊的老人。他處事公道，工作認真，在中央與地方均有工作經歷。750年，韋見素任吏部侍郎，他生性仁恕，主持考選多年，行事公允，深受稱讚。
754年(天寶十三年)，京師大雨，引發水災。唐玄宗認爲這是因爲宰相失職，上天才降下凶兆，便罷免了左相陳希烈，命右相楊國忠選取繼任者。楊國忠找了一圈，認爲韋見素性格柔順，容易控制，便舉薦韋見素爲相。唐玄宗也因韋見素曾任職相王府，同意韋見素拜相。韋見素因此對楊國忠非常感激，走的很近，以至於在馬嵬坡幾乎命喪黃泉。
還有一個說法就非常有戲劇性了，是說他走了大太監高力士的門子。有一天，唐玄宗做了一個夢，夢見自己從宮殿上跌下，幸虧有個孝子及時把他扶住，又把他扶了上去。玄宗夢醒後便告訴了高力士。高力士便藉機發揮，說道："孝子身上穿的是素衣，這孝子是指韋見素呵。"玄宗深感有理，幾天之後便把韋見素從吏部侍郎提拔爲宰相。
此事當然有演繹成分，只能說明韋見素與楊國忠、高力士關係都不錯，不過巧合的是，這個夢此後還真應驗了。安史之亂前，韋見素多次苦諫防備安祿山，但唐玄宗不聽，後來唐玄宗被迫離開長安(這也就是所謂從宮殿上掉下來吧?)，逃亡蜀地之時，韋見素一直跟在身邊。後來皇太子李亨在靈武繼位稱帝，是爲唐肅宗，但由於路途遙遠，音訊不通，唐玄宗直到八月才知道，遂命宰相韋見素與房管前往靈武，正式冊立李亨爲帝。後來唐肅宗返回長安，決定派人到蜀地迎接唐玄宗回京城，當時派出的迎接使者就是韋見素。唐玄宗回到長安後，韋見素因保護玄宗之功，加封開府儀同三司，食實封三百戶。
