南北朝初期仍是世族政治，社會階層分爲世族、齊民編戶、依附人及奴隸 。世族擁有大量不需付稅的依附人從事生產與作戰，影響朝廷的稅收。雖然南朝皇帝仍然需要主流世族的擁護，不過也扶持寒門以平衡政治勢力，並且在南朝梁時萌芽出科舉制度 。南朝世族因爲長期安逸而逐漸衰退，在侯景之亂後徹底崩潰。北朝胡族缺乏政治的經驗，所以重用漢人世族，引起雙方的文化採借，久之形成文化混合，以北魏孝文帝的漢化運動最盛。混合的過程產生激烈的思想衝突、政治鬥爭或種族衝突，例如六鎮民變、宇文泰的鮮卑化政策 。北齊提倡排漢文化 。北周建立關中本位政策，融合鮮卑及漢文化以消除胡漢隔閡 。在隋朝統一天下後，合併關東與江南人而形成新漢族，開創出具開放性和包容性的隋唐文化。
政府部門南朝宋之後設有門下省，至此確定了三省制度。門下省負責獻計策和勸諫皇帝，參與機密之事，又成爲大權掌握的機構。
行政區劃南朝政承襲東晉，實行州郡縣三級制。而僑州郡縣及雙頭州郡也因爲土斷而變成一般州郡。自東漢末期實施的州郡縣三級制，到隋平陳後改爲州縣二級制而結束。南朝的州設刺史，郡設太守，只有丹陽郡因爲是首都所在地而設尹。縣設令、長。自宋以後，令多於長。與郡同級的有王國和公國，設內史和相。還有特爲習稱蠻民及僚族、俚族等少數民族設置左郡、左縣和僚郡、俚郡。例如有南陳左郡、東宕渠僚郡等。當時州郡縣有等級之分，大致上以距離首都遠近爲品級高低之分，諸州佐吏則按州的等級設置官員。揚、荊二州還有“二陝”之稱呼。 北魏在北魏孝文帝以後，官制模仿南朝，至唐代仍沿用。北周時按周禮，設置六官，即天官、地官、春官、夏官、秋官、冬官六府，是隋唐之後六部體制的源頭。
北朝政區承襲十六國，如同南朝一樣爲州郡縣三級制。然而州轄區不大，州刺史可越郡級直接管理縣，使得郡級逐漸虛級化，到583年隋朝正式定爲州縣兩級制。北魏也設有僑州郡縣和雙頭州郡(如南雍州)，並將州郡縣按人口數分等級。爲了防範新附或異姓叛變，於406年將各級行政長官分立三位，其中州刺史方面須一位爲宗室。北魏原設有負責地方軍政的行臺及管理數州軍事的都督。到北齊定爲行臺制，北周則爲總管制，都是負責數個州郡軍事與行政的政區單位。北齊因爲州轄區越分越細，於是設置行臺兼管數州民政及軍事 。西魏則改稱都督爲總管，性質同北齊行臺。北周時，總管一般兼任駐州刺史，並以所駐之州爲名。北魏還特爲鮮卑本族或其他民族(漢人除外)設置領民酋長來管理該族，地位只次於州刺史。又延續十六國政區，設有管理州境內其他民族的護軍。其地位等同郡守，至457年廢除。還有鎮戍制，於重要的軍事要地設鎮。鎮由鎮將管理，下置戍，由戍主管理。其中又以鞏固首都平城的六鎮最重要 ，至孝文帝遷都後勢微。六鎮民變後，北朝的鎮戍專管軍事，不再具政區性質。
