自西晉末年八王混戰、匈奴及羯族貴族劉淵、石勒起兵弄權以來，中原戰禍連年，無一寧日。長江流域算是比較安定的地方，中原地主士人和人民紛紛南渡避禍。307年春，司馬睿被任命爲安東將軍，偕同他的好朋友、謀主王導駐節建康，負責揚州的軍事防禦工作。王導屬北方最有名的望族琅邪(yā牙)王氏，謀略過人，誠懇熱情。預謀退路的大臣，通過他可爲子侄或親屬獲得在江南的職務。求他幫助的北來地主士人能得到妥善的安置和慰問。洛陽、長安陷落以後，南渡的人如過江之鯽，“中州士女，避亂江左者十六七”。他們雖然失去土地，在社會上仍然有很高的威望。
王導和東晉的建立
攜有大量的錢財、佃客、僮僕和私人武裝，是一支支流亡大軍的首領。爲了在一個人地生疏的地方不受排斥，繼續保持富貴抓住權勢，北來士人必須抱成一團，並擁戴像王導這樣一個有能力、孚衆望的高級北方士族來代表和保護他們的利益。王導的從兄王敦也是個擁有大量部隊的將軍。
於是投奔他們的北方士人日益衆多，建康成爲長江流域的政治中心。北方士族中以隨司馬睿渡江的一百來家地位最高。門閥制度森嚴，政府有專門機構撰有《百家譜》、《十八州士族譜》，有專長家譜學的人辨別真僞，嚴防假冒。低級士族王泰寶賄賂修譜世家的賈希鏡，欲冒人琅邪王氏譜，被王晏檢舉，賈希鏡幾乎被殺死。
後來渡江的北方士族被鄙稱爲“傖”，不得享受同等待遇。高級士族若婚配不當，如弘農楊氏，也受排擠。士族擔任高級官職，且升遷很快，薪俸豐厚。至於庶族地主只能擔任低級官吏，非有特殊的軍功，難以獲任高官。士族爲了保持自己的特殊身份和權利，不與庶族地主通婚，不穿同樣的衣服，不共坐談話，不輕易往來。江左百家以王導爲首，皆被委以重任，成爲後來東晉政權的支柱。其中的琅邪王氏、潁川庾氏譙國桓氏、陳郡謝氏輪流把持各種要職，左右政壇。中央及地方要員全屬南北士族或其子弟，“舉賢不出世族，用法不及權貴”。
東晉政權的強烈門閥政治性質，是其政治和社會秩序一直比較混亂的主要因素。
司馬睿在西晉政府中不擔任很高的職務，手裏沒有很多的軍隊，在晉宗室中又屬疏屬。北方士族桓彝以及從山西敵後歷盡艱險奔赴建康的溫矯同他見面後，都深感其才智平平難孚衆望，懷疑其作爲首腦後的政府能有作爲而爲前途憂慮。王導先後同二人討論形勢，二人皆佩服至極，驚呼其爲江左的管仲。桓彝事後對另一名士周凱(yi義)感嘆說：我同王導談了話，才知道他頗有辦法，心裏的一塊石頭落了地，可以安心工作了。但多數的北方士族仍不免悲觀失望，不幹實事。一有空閒，相約到長江邊的新亭聚會，借酒消愁，相對哭泣，抒發對故鄉的懷念。一次，這些名士又到新亭宴會，望見長江滾滾東流，不禁想起從前在洛陽黃河邊上宴飲的情況。“周侯(凱)中坐而嘆曰：“風景不殊，正自有山河之異”。
皆相視流淚。唯王丞相(導)愀然變色曰：“當共戮力王室，克復神州，何至作楚囚相對”。意思是說：風景同黃河邊上一樣，只是統治者變了。名士們一個個觸動舊情，紛紛慟哭起來。王導正色告誡大家：齊心輔佐王室，恢復中原。怎麼能像“楚囚”那樣相對哭泣!衆名士皆低頭認錯，佩服王導最有見識，能把大家的士氣振作起來。西晉滅亡後，南方的士人受排擠，當官的很少。揚州沒有一個士人擔任中級官吏，荊州和江南無一人在中央當大官。司馬睿到江南大半年了，南方的地主士人都不理他，沒有一個人去見他。
王導是一個老練的政治家，看到這種局面很擔心，行將建立的政權必須以南方士人爲依靠爲基礎。當務之急是提高司馬睿的威望。經過一番周密的準備，王導爲司馬睿安排了一次上巳日(三月三日)的盛大出遊儀式。司馬睿坐上大轎，由一支威武的儀仗隊護送。王導、王敦以及北方有名的文士武將皆騎馬恭恭敬敬地隨行。大街兩旁摩肩接踵，觀者如堵。
江南的地主代表人物顧榮等也從門縫中窺見了這一盛大場面，極爲歎服。相率到路旁拜見。王導向司馬睿說：顧榮、賀循是南方士族的首領，任命他們的官職，其他的南方士人自然都會前來歸附。王導親往拜見顧、賀二人，南方士人無不動容。那時在江南的北方士人說洛陽官話，惟王導與南方士人飲宴、聚會、閒談皆講吳語。北方士族譏諷王導，說他沒有什麼長處，只會說吳語罷了。王導不以爲意，極力拉攏南方士人。南方的強宗大族顧、陸、周、張及其他士人皆樂同王導來往。
王導宴請陸玩，陸玩回家拉肚子，寫信給王導說：我是吳人，吃了你的食物，幾乎做了“傖”鬼。王導不以爲忤，甚至想同陸玩通婚，遭到婉言拒絕。原來北方士人佔據要津，南方士人心懷忐忑。義興(江蘇吳興)大地主周醜，是氏人齊萬年起義中被殺死的建威將軍周處的兒子。周玘三次鎮壓江南農民起義，有大功於西晉。他企圖發動暴動推翻執政的北方士人沒有成功，恚怒而死。遺囑要兒子繼承父志。
子周勰聯合南方士人發動兵變進攻王導，又失敗了。王導怕激起南方地主的敵視不予追究。王導後來作揚州刺史，派專官去屬下各郡考察。後來聽取回報，考察官們相繼談了各郡的政治情況。惟顧和默不作聲，王導問他有什麼看法。顧和回答說：你是國家的首輔，應該讓吞舟大魚也能漏出網去，何必去計較地方官的好壞。
王導連聲說他說得對。士族做了任何不法的事，王導也是不願聽的。王述以“家貧”爲幌子謀得宛陵令，一上任就大肆收括，州司檢舉其貪髒事達1300條。事情鬧到王導那裏。王導卻派人去安慰王述說：你是名士之子，不必擔心沒有優厚的俸祿，讓你當個小小縣令，實在是委屈你了。
由於王導處處以大局爲重，寬和待人，甚至睜着眼睛不視不法之事，盡力爭取各方面的支持並努力維持北方士人間，以及北方士人與南方士人之間力量的平衡，一個以司馬睿爲號召的各種勢力互相利用互爲得利的聯盟形成了，奠定了東晉政權的政治基礎。
那時南渡的士人和農民估計有90萬，約佔北方人口的八分之一，南方人口的六分之一。這些南來的人統稱“僑人”，多按宗族、鄉里聚居，地主士人往往成爲他們的首領，並以擁有的僑人作爲自己的力量。地主要建立產業，農民要種田。南方的士族爲了自己的利益排斥僑人。
王導定僑居法，在南方地主勢力較弱、人口稀少的地區如丹陽、晉陵、廣陵等境內設立僑州、僑郡、僑縣，與當地州、郡、縣分別建制，各不相屬，各有一套行政機構。需要的大批地方官吏，爲南來的中下級士族提供了政治出路，又可利用北來的勞動力作佃客、奴僕創立新的產業。
這樣做的好處甚多，既有了一支抵禦胡人南侵的力量，又可緩和南北士族在經濟利益和政治利益上的衝突。僑人不列人當地戶籍，不負擔國家的賦稅和徭役，這就吸引了大批北方勞動人民南下。他們帶來的先進生產技術和先進工具，對江南的開發有積極作用。自東晉至隋統一中國的近300年間，南方經濟上升，文化科學更遠遠超過北方，王導功不可沒。
王導“爲政務在清靜”，“羣情自安”,即在忽視人民利益的條件下，讓有實力的士族彼此牽制，並採取措施滿足他們的要求，盡力避免激化這些錯綜複雜的矛盾。簡言之，王導作爲南北士族的首領，對上要應付一個姓司馬的皇帝，對下要壓抑或緩解北方士族間、北方士族與南方士族間，以及王氏勢力與司馬氏勢力之間的矛盾。說起來容易，做起來困難。王導做到了，且達到“匡主寧邦……朝野傾心”的地步。誠如王導晚年自己所說，人家說我糊塗，將來有人會想念我的糊塗。
317年東晉建立，次年司馬睿由晉王稱帝。他自己很清楚，不是有力量，而是“司馬”這個姓幫了忙。政治上全靠王導，軍事上仰仗王敦。中央及地方要員皆視王導臉色行事。司馬氏的勢力遠不及王氏，要想做點事或安置親信必先衡量得失。呼王導爲蕭何、爲仲父，甚至登御牀受百官朝賀時不得不三番四次請王導同坐受賀。
結語
時人有“王與馬，共天下”之說。這正好說明王導是東晉的實際締造者。雖然如此，東晉同北方五胡十六國的大混亂相比，終究比較安定，對人民，對經濟發展是有利的。後來的謝安繼承王導的政策，實現了統治集團內部的穩定團結，終能以微弱的力量打敗了強秦的侵犯，繼續保持南方發展的勢頭。
