唐高祖武德九年六月四日,李世民玄武門之變中殺掉了李建成和李元吉，後又誅殺其子侄十餘人,奪得皇位繼承權。同年八月,李淵被迫讓位於李世民。李世民一方面令人修纂國史,讓國人認識自己繼承大統的合法性;另一方面,爲減輕自己殺兄逼父的心理壓力,並迅速緩和他即位之初的複雜形勢,對原太子東宮集團中的人物,大多予以起用。特別是魏徵,比其在原東宮府更受重用。那麼,李世民對魏徵及原東宮附屬爲什麼不像對其兄弟子侄那樣趕盡殺絕,是否像一些史家所言是李世民知人善任、重用人才?事實上情況並非如此簡單,而是與貞觀初期的政治矛盾、經濟形勢、民族關係密切相關。
唐初政局的動盪,也使得南北朝以來本就尖銳的民族矛盾更爲突出。東北地區,高麗虎視遼東。西北地區,突厥、吐谷渾不斷寇邊,內犯勢頭尤以突厥爲烈。但李世民深知,之所以暫時不能與突厥發生正面衝突,就是因他“即位日淺,國家未安,百姓未富”,不具備和突厥大規模作戰的條件。在此情況下,李世民要想解決這些問題，一定要先穩定山東，因爲山東不僅是解決西北問題的關鍵而且對關中也有影響。要想穩定山東，就一定要控制山東的士族勢力。而最能牽制山東士族勢力的就是山東豪傑了。山東豪傑就是隋末山東農民起義軍的大小領袖，這些人在降唐之後大都轉化爲庶族地主，他們和山東士族在政治、經濟利益上有根本衝突。如果充分利用他們，使之和山東士族互爲牽制，就能取得山東的暫時穩定。而魏徵又是最能代表山東庶族集團即所謂山東豪傑利益的人物之一。魏徵不僅參加了瓦崗起義，而且又是原東宮集團的主要謀臣之一，這種特殊的經歷不僅使其成爲山東豪傑的聯絡人，而且也成爲東宮集團的代言人。如果李世民殺掉魏徵，就會導致這兩大勢力的不安和反對，從而失去山東豪傑的支持而無法處理好山東問題。所以唐太宗認爲他們是“各爲其主，是可以原諒的，赦免了他們的死罪，並可使他們感恩”。
如此纔可能重新認識李世民、魏徵二人之間的關係。魏徵隨李密降唐後，“久不見知”，於是“自請安輯山東”，擔負起收編各地義軍的重任。發一書而降李世責力，並先後使李世責力、竇建德部下曹旦及齊善行等歸降李唐。魏徵在山東豪傑中的影響就充分顯示出來。故而玄武門之變後不久，李世民就立即委任魏徵以“安輯河北，許以便宜從事”之重任。魏徵在安撫河北時，亦極力保護山東集團中的精英。
如何使目的實現，魏徵是經過一番深思熟慮的。他洞穿了李世民的心理，看到了唐初各種矛盾的焦點所在。利用自己爲諫議大夫之機，積極進諫，以“居安思危”之語打動李世民。魏徵深知:“自古上書，不急切，不能動人主之心，所謂狂夫之語，聖人擇焉”。這也正是時人認爲他“精通羣書，頗明王霸之術”、“素有膽氣，善得人主意”的根本原因之所在。魏徵多次進諫於李世民，指出隋亡的根本原因就是“甲兵屢動，徭役不息”，要求李世民以亡隋爲鑑。楊隋之亡，與重役山東，攻伐高麗密切相關。而李世民經略關中，安撫山東，亦無不是爲與高麗作戰做準備。一旦重與高麗開戰，山東所受賦役又必然加重。這是山東集團所反對的，也是魏徵最不願看到的。
爲擴大山東集團在唐中央的實力，取得部分關隴集團成員的支持，魏徵先後向太宗推薦侯君集、杜正倫、褚遂良，並特別指出侯君集、杜正倫有宰相才，使他們受到李世民的重用。魏徵與王珪的關係也非同一般，這從每當王珪進諫李世民之時魏徵必然附和，魏徵進諫時王珪也同樣附和就可清楚看出。特別是杜、褚二人，對李世民的言行是“必書”、“必記”，達到了魏徵所期望的使李世民“不爲非法”的目的。
李世民對魏徵的心理活動也極爲清楚，看到了魏徵的背後有龐大的山東集團做後盾，而自己又“即位日淺，國家未安”，必須協調各種政治力量之間的關係，使自己時時處於“居安思危”的狀態，保持清醒的頭腦，因而接受魏徵的“犯顏”進諫亦就不足爲奇了。爲取得山東集團的支持，維護統治，位居九五之尊的李世民不斷遭到臣下的“犯顏”，而且要把不滿深深地隱藏在心中。
《貞觀政要》全書記載的李世民與魏徵等臣子所論之事，大抵爲居安思危、如何守成之說。這恰恰是李世民穩定局面，由亂入治所需要的。李世民深知，隋煬帝處處專斷的一言堂，雖“勞神苦行，未能盡於合理”，結果葬送了隋王朝。前車之鑑也使得李世民必須聽到不同的意見。更何況魏徵的多數諫辭，除有居安思危成分外，還可起到擡高李世民聲威的作用。如每當李世民責怪魏徵進諫的直言時，魏徵就雲:“願陛下使臣爲良臣，勿使臣爲忠臣”，“良臣使身獲美名，君受顯號，子孫傳世，福祿無疆。忠臣身受誅夷，君陷大惡，家國並喪，空有其名”。如此之語，亦就引出了李世民“徵蹈履仁義，以弼朕躬，欲致之堯舜，雖亮無以抗”。然而在重大實質性問題上，李世民就獨斷專行，不會接受魏徵的諫言，魏徵亦多取回避之法。
魏徵的聰明，就在於他看到了李世民虛心求諫、重用人才的表象後面隱藏着本身固有的疑懼、殘忍及獨斷，也看到了李世民急於在衆人面前刻意修飾自己，以掩飾自己殺兄逼父之非。這些從貞觀時期李世民的言行中可以清楚看出。而李世民後期由於功德圓滿和對山東集團的成功打壓，所以殺掉侯君集、逐杜正倫。對魏徵，也在他死後“罷叔玉尚主，而足陪所撰碑”。此時二人的關係才從“求諫”、“直諫”的重重迷霧之中露出了原本互爲所用的實質關係。
《舊唐書·魏徵傳》載侯君集被誅，杜正倫遭逐後，“上始疑徵阿黨”，但實際上並非在魏徵死後李世民才懷疑魏徵“阿黨”，而是一直就有所覺察，只因種種因素的制約，始終隱忍罷了!
