唐朝中前期，可謂名相輩出。可是自從安史之亂後，唐朝政局動亂，遭到後世讚譽的宰相寥寥無幾，而崔祐甫則是其間一位。
崔祐甫身世於其時的高門大族博陵崔氏，自幼勤奮好學，年輕時經過科舉考中進士，步入宦途。他“性剛直，無所容受，遇事不回”，性格耿直不平，遇事不願回頭。
唐代宗時期，崔祐甫擔任中書舍人，與宰相常袞不好，兩人屢次發作爭執。有一次，隴右節度使朱泚軍中發作貓鼠同乳的怪事，向朝廷奏稱祥瑞，常袞便帶領羣臣道賀。崔祐甫卻認爲：“貓的職責是捕鼠，爲人除害。可現在貓不捕鼠，反而哺乳老鼠，是失其本性，不能守職。就如同官吏不懲辦違法之人，邊將不反抗侵略之敵。這並不是什麼祥瑞，反倒應該因而檢討朝政的得失。”代宗附和崔祐甫的說法，常袞由此對崔祐甫恨之入骨。
到了代宗逝世時，崔祐甫與常袞之間的關係進一步惡化，崔祐甫也因而而因禍得福。
常袞感激代宗的知遇之恩，認爲代宗的喪禮應該在禮制的基礎上隆重舉行。而崔祐甫則認爲全國並不安靖，代宗的喪禮應該悉數從簡，儘量不給朝廷和百姓增加擔負。兩人爲此爭執不下，常袞便向剛剛即位的唐德宗彈劾崔祐甫，說他小看國家禮儀典制，懇求將其貶爲潮州刺史。德宗認爲處置過重，就改貶崔祐甫爲河南少尹。
依據此前的常規，幾位宰相輪流處理日常業務，如有宰相輪休，若非重要的詔令，不需奉告其他宰相，由值勤宰相代其署名。加之常袞把握實權，而同爲宰相的郭子儀、朱泚一般不參預朝政，所以常袞貶黜崔祐甫時並未諮詢他們的定見，就替代郭子儀、朱泚在詔書上署了名。
比及貶黜崔祐甫的詔書宣佈之後，郭子儀、朱泚都不贊同，入宮覲見德宗，表明崔祐甫不該被貶。“德宗大駭，謂袞誣罔”，德宗這才知道其他宰相併不知情，他也不知道這種做法是朝廷常規，因而認爲常袞欺君罔上。德宗十分憤怒，下令“兩換其職”，讓常袞和崔祐甫對調官職，將常袞貶爲河南少尹，崔祐甫則頂替常袞的職位，被任命爲門下侍郞、同平章事，成爲了宰相。
崔祐甫剛剛離京不遠，便被召回了朝中，就任宰相。其時德宗正在服喪，將政務悉數託付給崔祐甫，對他信賴有加，他提出的建議無有不允。崔祐甫幹事公允，足智多謀，得以充分發揮自己的政治才幹。
崔祐甫一改之前只重視門第和科舉的任官辦法，選拔官員不避親疏，重視才幹優劣，只要是人才便加以委任。德宗曾問崔祐甫：“很多人都說你選用的官員多是親友素交，這是爲何?”崔祐甫回答說：“選用官員必須熟知他們的才幹和品德，若不與其相識，怎麼能知道真實情況。”唐德宗深認爲然。
其時，神策軍使王駕鶴把握禁軍十餘年，權傾表裏，專橫囂張。德宗繼位後，想免除王駕鶴的兵權，但又怕他發動暴亂。崔祐甫便把王駕鶴召來說話，成心拖延時間，而頂替王駕鶴的人這時早已到軍中就任了。比及王駕鶴知道後，現已力不從心。
