公元354年(皇始四年)，苻雄去世，苻堅襲父爵東海王。另亦獲授龍驤將軍，苻健更以苻洪曾經在後趙獲授此號勉勵苻堅，苻堅當時亦“揮劍捶馬”，被苻健的話所感動和激勵，士卒見此，亦心服苻堅。苻堅當時亦博學多才藝，更有經略大志，廣交豪傑。
公元355年(前秦皇始五年)，苻健病死，其子苻生繼承帝位。苻生是天下少有的暴君，視殺人如兒戲。每逢接見大臣，都讓侍從箭上弦，刀出鞘、鐵鉗、鋼鋸等擺放跟前。看誰不順眼，就隨即殺掉。如哪位大臣有所勸諫，就被視爲誹謗，殺之;若有人說句奉承話，就被視爲獻媚，亦殺之，因此，朝中人人自危。
公元357年(壽光三年)，姚襄謀圖關中，並聯結前秦境內的羌人，苻堅與苻黃眉、鄧羌等人率兵抵抗，終在鄧羌成功誘使姚襄出擊而由苻黃眉率主力將姚襄擊敗，並擒殺姚襄，逼令姚襄弟姚萇率其部衆歸降前秦。然而，當時前秦皇帝苻生賞罰失當，兇殘好殺，苻黃眉因立大功後未受褒賞，反受侮辱而謀反。雖然最終苻黃眉謀反失敗，但苻堅當時很有聲譽，姚襄舊將薛贊和權翼亦欣賞苻堅的才能，並私下對苻堅說：“如今主上殘忍暴虐，搞得全國人心離散。常言說得好，有德者昌，無德者亡。神器業重，不要讓政權落到他人手中，希望大王早作打算，行商湯、武王之事，以順應天意民心”，梁平老等人亦勸苻堅謀反。
苻堅感到實力不足，不敢輕易動手，而在暗中謀劃，或許苻生也聽到了風聲，在公元357年的一個夜晚對一位侍女說：“苻法和苻堅兄弟也不可信賴。明天就把他們除掉。”侍女等苻生熟睡後，祕密報告了苻堅。苻堅兄弟纔不得不立即採取行動，召集親兵，分兩路衝進苻生的王宮，把睡懵懵的苻生拉到另外一個房間幽禁起來，廢爲越王。廢苻生後，苻堅將帝位讓給庶兄苻法，但苻法自以庶出不敢受，苻堅在羣臣的勸進下即位，並降號天王，稱“大秦天王”，改年號永興，實行大赦。後遣使殺了廢帝苻生，諡其曰厲。
苻堅即位時，前秦社會一派混亂，關中本來是各民族雜居的地區，民族仇殺此起彼伏，前秦在戰亂中建國，法律制度都不健全。苻生又實施殘暴統治，已有水旱災害發生，致使千里秦川豪強橫行、老百姓苦不堪言。
苻堅在做東海王時，就痛感時弊誤國害民，因而即位後決心開創清明的政治局面，整頓吏治，懲處不法豪強，平息內亂，實行與民休養生息的政策。他深知明政無大小，以得人爲本的道理，所以廣招賢才，並首先從調整最高領導機構入手，果斷地處斬了幫助苻生作惡的佞臣董榮、趙韶等二十餘人，提拔重用了一批精明廉潔的漢族士人蔘與朝政，其中最有影響的就是寒門出身的王猛。
又修整一些名實不符的官職，恢復已絕的宗祀，上禮神祇，鼓勵農業，設立學校，扶持鰥寡孤獨和年老無依者。另亦褒揚稱頌一些有特殊才行、孝友忠義、有德業的人。後苻堅下令各地方官員都上舉孝悌、廉直、文學、政事四項才德的人才，若真的是人才就得賞賜，否則就被降罪;另苻堅亦不優待宗室，即使是宗室中人，若無才幹都會被棄用，於是當時國內官員都十分稱職。而通過開墾耕地，令前秦倉庫充實，人民溫飽而令盜賊也少了。
苻堅亦下令與民休息，在即位次年(公元358年)討平於幷州叛變的張平後就下令偃甲息兵，直至公元365年出兵平定劉衛辰及曹轂的叛亂前都沒有大型的軍事行動。苻堅又應當時秋旱而下令減省膳食和暫停奏樂，將金玉錦繡等貴重物品散發給軍士，並命後宮省儉服飾，苻堅更開發山澤，且得出的資源不限於官府，連平民也可用。
至公元364年(甘露六年)，苻堅下令各公國自置中尉、大農及其他官屬，然而衆人卻以當時富商趙掇、丁妃等人車服盛如王侯，紛紛延攬這些富商爲二卿。苻堅於是下令延攬富商爲卿者降爵位到侯爵，並下令沒爵位或官職的人都不能在都城百里以內乘車馬;工商、奴隸及婦人亦不得穿戴金銀錦繡，違者處死。
