宰相制度早在明洪武十三年(公元1380年)就被明文廢除了。
但這種說法雖相沿已久，其實並非毫無問題：明太祖朱元璋明文廢除的其實是“丞相”，而不是“宰相”。
在《皇明祖訓》中記載稱“自古三公論道，六卿分職，並不曾設立丞相，自秦始置丞相，不旋踵而亡，漢、唐、宋因之，雖有賢相，然其間所用者多有小人，事權亂政。今我朝罷丞相，設五府、六部、都察院、通政司、大理寺等衙門分理天下庶務，彼此頡頏，不敢相壓，事皆朝廷總之，所以穩當。以後子孫做皇帝時，並不許立丞相，臣下敢有奏請設立者，文武羣臣即時劾奏，將犯人凌遲，全家處死”。
很顯然，朱元璋只是不許子孫再恢復自己廢除的丞相一職，而並無一字提及不許恢復宰相。在中國古代，丞相和宰相其實是有重疊但並不相同的兩個概念(儘管常常被混淆)。
最初“相”是個動詞，意思是“幫助”、“輔佐”，伊尹、周公、姜尚這樣的人物在當時或後世會被稱爲“相”，而在外交活動中臨時擔任贊禮工作的人也會被稱作“相”。後一種“相”並非固定身份，外事活動結束後便迴歸本職，而前一種“相”也只是一個泛稱，他們並非以“相”而是以其它身份行使職責，且同被稱作“相”，其權限也相差甚遠，伊尹可以驅逐國王，自己居攝，周公雖然也“居攝”卻要畏懼國王聽信讒言後猜疑自己，而姜尚的權限充其量相當於一個高級幕僚。
春秋末年齊景公置左右相(《左傳》中公元前546年已有此職務)，到戰國時絕大多數國家都設立了“相國”一職，作爲文臣的最高職位。周赧王六年(公元前309年)，秦國率先將相國改爲“丞相”，此後這個職位大多數時候稱“丞相”，有時也會改回“相國”。
丞相的職權很大，可以負責全國官員考覈獎懲(上計)，並直接負責許多中樞部門，因此對皇權構成威脅，漢哀帝元壽二年(公元前1年)改丞相爲大司徒，此後直到漢朝末年，只有王莽、曹操等有篡位野心的權臣纔會設法重新讓自己獲得丞相的職位，大司徒雖位列三公，權限已遠不如丞相。
“宰相”一詞大約在南朝時開始出現，而在唐代成爲普遍的稱呼，所指的是有秦漢丞相類似權限、但沒有丞相名銜的文官，隨着中樞權柄的轉移，被稱作“宰相”的在南朝先後有尚書令、中書令，待唐朝推行三省六部制後，三省長官尚書令、中書令和門下侍中都被稱爲宰相，但由於這三個職位很高，並不常設立(由於唐太宗李世民曾任尚書令，這個職位在唐代很少授予他人)，因此實際上的唐代宰相往往是以“同中書門下三品”、“同中書門下平章事”等頭銜辦公。從此“宰相”和“丞相”兩詞便分道揚鑣了。
什麼叫“分道揚鑣”?就是說宰相不一定是丞相，而丞相也未必是“真宰相”。
唐、宋兩代大多數時間，宰相都是以前述各類名目辦公，直到南宋孝宗乾道八年(公元1172年)才恢復了丞相一職，且這個“丞相”的確就是宰相。而遼、金等少數民族政權則既設尚書令、平章政事又設丞相，且都具備宰相職權，後者這種疊牀架屋的設定被元朝因襲，並進而設置了實際上是以中央外派官員、機構身份行使地方職權的行中書省丞相。
明初的官制在很大程度上是模仿元代的，因此丞相就是宰相，廢除丞相也就實際上等於廢除了宰相，但畢竟法律條文上被廢除的仍然是丞相，不是宰相，如果後來的帝王以“同平章事”之類古已有之的職銜恢復宰相，是完全可以繞開“祖訓”的，之所以沒人這樣做，恰是因爲廢除宰相可以實現“事皆朝廷總之”(皇帝一個人說了算)，讓帝王覺得“穩當”，因此借“祖訓”壓服異議者，實現自己不設宰相、大權獨攬的私心。清代康熙、雍正、乾隆三代帝王不斷借各種場合、形式抨擊宰相制，甚至倘發現有官員按照當時風俗，將大學士稱作“相爺”也要訓斥甚至處罰，“廢除丞相就是廢除宰相”的錯覺，其實是一代代層累，直到清代才被以上諭、硃批之類“法定”的。
丞相在唐代曾“復活”過兩次，一次是武周光宅元年(公元684年)由尚書左右僕射改名，中宗神龍元年(705年)又改了回去，另一次是玄宗開元五年(公元717年)，將中書令和門下侍中分別改名右相、左相，天寶元年(公元742年)又恢復舊名稱。由於當時已有“真宰相”即同中書、門下三品等，這些掛名的“丞相”實際上並不是宰相。
朱元璋廢除丞相後，中國只有太平天國設立了丞相職位，最初設天、地、春、夏、秋、冬六官正、又正、副、又副共24名丞相，後又增設恩賞丞相、殿左右丞相等，人數已多到數不勝數，這些“丞相”同樣並非宰相，而只是職能官員——太平天國實際上是有“宰相”的，但其職銜不叫丞相，而叫“軍師”。
一些學者就此認定，“宰相”在中國只是最高文官的泛稱，而並非實際職位，這也並不完全正確，其實“宰相”曾經作爲正式官職出現過兩次。
一次是遼代。遼代官職分北面、南面兩個系統，其中北面主要治理契丹人，南面則主要治理漢人，北面系統中設有宰相府，先後設立過宰相、左右宰相等，宰相府管轄五院一司，職責重大，其長官“宰相”可以被視作名副其實的真宰相。
另一次則是太平天國。清左宗棠咸豐十年底(公元1861年1月6日)曾奏報在安徽黟縣擒斬太平天國侍王李世賢部宰相黃世瑚。如前所述，太平天國的“真宰相”是軍師，黃世瑚的主帥李世賢當時還未當上軍師(後來當上過)，在李世賢之下，則還有主將、佐將、總提、六爵等層層疊疊的官爵，這個空前絕後的“宰相”如非左宗棠弄錯，也充其量只是箇中低級軍官，離“真宰相”則差得太遠了。
