楊堅建立隋朝後，按照內史崔仲方的建議，廢除北周實行的仿照《周禮》的六官官制，建立以尚書、門下、內史三省以及尚書省六部爲核心的朝政機構。
正如《隋書·百官志》所說：“高祖既受命，改周之六官，其所制名，多依前代之法。置三師、三公及尚書、門下、內史、祕書、內侍等省，御史、都水等臺。……朝之衆務，總歸於臺閣。”隋代朝官制度的最大特點，是集東漢以來朝官制度發展變化之大成，並使其規範化和固定化。
尚書省
尚書作爲官職，始設於秦代，但僅是少府屬官。西漢武帝時，開始提高尚書的權力，賦予其決策的職能。到東漢光武帝時，尚書增加爲六曹，並稱爲尚書檯，成爲實際上的國家政務中樞機構，“選舉誅賞，一由尚書，尚書見任，重於三公”。到三國兩晉時期，尚書檯從少府中獨立出來，稱爲“尚書省”，正式成爲總理全國政務的最高機構，結構也逐漸複雜。但直到南北朝末年的北齊和陳時，尚書省的下層機構與官吏配置，仍未穩定和規範，如陳朝的尚書省設置尚書五員，郎官二十一員。而北齊尚書省設置尚書六員，但下轄二十八曹，其中的都官尚書則統轄都官、二千石、比部、水部、膳部五曹。其設官數量不等，管轄職權和範圍也不同，差異甚大。
隋代的尚書省地位很高，管理全國政務。《隋書·百官志》說：“尚書省，事無不總”。這句話說明了尚書省在中央最高行政機構中權力之大，地位之尊。當然，這並不是說尚書省包攬一切。尚書省的總官署名叫尚書都省，置尚書令、左右僕射各1人，總領吏部、禮部、兵部、都官(開皇三年改刑部)、度支(開皇三年改民部)、工部等六部。六部長官是尚書，與尚書令、左右僕射合稱“八座”。吏部掌文官選授考課，吏部尚書絞吏部侍郎2人，主爵侍郎1人，司勳侍郎2人，考功侍郎1人。禮部掌學校、禮樂。禮部尚書統禮部。祠部侍郎各1人，主客，膳部侍郎各2人。兵部掌軍籍輿馬，兵部尚書統兵部，職方侍郎各2人，駕部，庫部侍郎各1人。都官掌刑政司法，都官尚書統都官侍郎2人，刑部，比部侍郎1人，司門侍郎2人。度支掌財稅出納，度支尚書統領度支。戶部侍郎各2人，金部、倉部侍郎各1人。工部掌工程建造，工部尚書統工部。屯田侍郎各2人，虞部、水部侍郎各1人。六部共24曹36侍郎，分司曹務，直宿禁省。尚書省的長官爲尚書令，實際上一般不授人，隋代只有煬帝時的楊素因爲有翊戴之功，又平定了漢王諒，方進位尚書令。但是煬帝對他“外表殊禮，內情甚薄”。他有病，煬帝雖然頻頻遣名醫賜藥，“然密問醫者，恆恐不死”。所以隋代尚書省長官實際上是左右僕射(從二品)。其中左僕射判吏部，禮部，兵部，兼掌糾彈;右僕射判都官，度支，工部，兼知財政用度。僕射的屬官有左右丞各1人，都事8人。煬帝時把都事撥到六部去了，另增設左右司郎各一人來代替，他們就是唐代左右司郎中的前身。隋代尚書是一個機構完整的中樞政務部門，與前代大不相同。“侍郎”掌一“司”之事，與後代的“侍郎”不同。
中書省
中書也爲漢武帝時所設置，以宦官擔任，在內廷幫助皇帝傳達詔令。曹魏時正式設立中書省，其“掌贊詔令，記會時事，典作文書”，成爲獨立的爲皇帝起草詔令的機構。歷兩晉南北朝，“國之政事，併爲中書省……總國內機要，而尚書唯聽受而已”。形成了中書決策，尚書執行的格局。但南北朝後期的北齊、北周的中書省兼職太多，如修國史、管理宮廷伎樂、判理刑獄等，不利於決策的專門化。門下省來源於秦代的皇帝侍從官，漢代作爲外朝官吏的加官，還未形成官署機構。到曹魏時始稱爲“侍中省”和“散騎省”，到南北朝時期，纔開始稱爲“門下省”。門下省由掌管對皇帝詔令的傳達，逐漸擁有對詔奏的封還與駁正之權，開始形成與尚書、中書兩省對朝政決策權力鼎足而三分的態勢。由於門下省從漢代皇帝侍從官演變而來，所以到南北朝末期，仍然負有侍奉皇帝生活起居，如飲食、醫藥、車馬等事務，其宮官性質十分濃重。如北齊的門下省，下轄有尚食、尚藥、主衣、齋帥、殿中諸局，這些完全是侍奉皇帝的機構。到南北朝末期，尚書、中書、門下三省的機構及其在朝廷決策行政系統中的職權地位，雖已基本定型，但其職權的專業化及機構的規範化過程，則還未最後完成。隋文帝正是在這一歷史演變的基礎上，進一步對三省制度進行調整使其規範化。
門下省
在隋初是侍奉諫議機關，掌審查政令及封駁諸事。其長官有納言二人(正三品)，它本是侍奉內廷，以備皇帝之顧問。《隋書·柳機傳》載，柳機在文帝開皇年間爲納言，“當近侍，無所損益，又好飲酒，不親細務”。所以不久就出爲華州刺史。次官有給事黃門侍郎4人，負責糾正奏章得失。《隋書·柳雄亮傳》載，雄亮任給事黃門侍郎時，“尚書省凡有奏事，雄亮多所駁正，深爲公卿所憚”。煬帝時去“給事”二字，另加置給事郎4人，這就是唐代給事中的前身。此外，還有錄事、通事令史各6人。隋初還有散騎常侍，通直散騎常侍各4人、諫議大夫7人，都是諫官。煬帝說他生性不喜人諫，所以把諫官全部罷廢了。隋初，門下省還掌皇帝衣食供奉等日常生活事務，統城門、尚食、尚藥、符璽、御府、殿內等六局。城門局：設校尉2人，直長4人。尚食局：設典御2人，直長4人、食藥4人。尚藥局：置典御2人，侍御醫、直長各4人，醫師40人。符璽、御府、殿內局：置監各2人、直長各4人。
內史省
後來改爲內書省，爲中樞的制令機關，專司起草皇帝詔令。隋初置監、令各1人，後來廢監，置令1人(正三品)。內書令，本稱中書令，在漢代本是掌禁中書記的，所以稱“中書”。漢武帝時，司馬遷受腐刑出獄後就當過中書(謁者)令。魏晉以來，中書令掌出納王命，南朝多以諸公兼之，至隋代才以專人任其職。煬帝時，內書令已不常置，往往以其次官內書侍郎行其職。內書省的屬官還有舍人8人，掌起草制令;通事舍人16人，掌宣奏。不過，在隋代也偶有內書侍郎親自草擬詔敕，如《隋書·薛道衡傳》載：高祖時薛道衡任內書侍郎，“每至構文，必穩定空齋，蹋壁而臥，聞戶外有人，便怒。”其勞心焦思若此，所以文帝讚揚他說：“薛道衡作文書，稱我意。”
祕書省
這是掌握具體事務的官署，祕書省掌圖書籍藏整理。這個官署一般比較清閒，長官爲祕書監(正三品)1人，次官有祕書丞1人。屬官有祕書郎4人、校書郎12人、正字4人、錄事2人，領著作曹、太史曹。著作曹掌國史修撰，有著作郎2人，佐郎8人，校書郎、正字各2人。太史曹掌天文曆法，置太史令、太史丞、司歷各2人，監候四人。隋煬帝大業年間，又新置儒林郎10人，掌明經顧問，唯詔所使。文林郎21人，掌撰錄文史，檢討舊事。
內侍省
是內廷的侍奉機關，隋初由宦官擔任。置內侍(從四品上)2人爲其省長。次官有內常侍2人。屬官有內謁者監6人，內寺伯2人，內謁者12人，寺人6人，伺非8人，統領尚食、掖庭、宮闈、奚官、內僕、內府等六局。煬帝時改內侍省爲長秋監，有長秋令、少令、丞等皆用士人，低級役使人員則用宦官。
以上是隋代中樞機構的“五省”，朝廷內外政務皆由其統轄，爲中央最高執政機關。
