先前唐太宗已經同意把衡山公主許配給魏徵長子魏叔玉，這時也後悔了，下旨解除婚約。到後來他越想越惱火，竟然親自砸掉了魏徵的墓碑——魏徵是館陶(今屬河北)人，從小喪失父母，家境貧寒，但喜愛讀書，曾出家當過道士。隋大業末年，魏徵被隋武陽郡(治所在今河北大名東北)丞元寶藏任爲書記。元寶藏舉郡歸降李後，他又被李密任爲元帥府文學參軍，專掌文書卷宗。
唐高祖武德元年，李密失敗後，魏徵隨其入關降唐，但很長時間沒有得到重用。第二年，魏徵請求去河北勸降，被批准。於是他來到黎陽(今河南浚縣)，勸李密的黎陽守將徐世績歸降唐朝。不久，竇建德攻佔黎陽，魏徵被俘。竇建德失敗後，魏徵又回到長安，被太子李建成引用爲東宮僚屬。玄武門之變以後，李世民由於早就器重他的膽識才能，非但沒有怪罪於他，而且還把他任爲諫官之職，並經常引入內廷，詢問政事得失。魏徵喜逢知己之主，竭誠輔佐，知無不言，言無不盡。加之性格耿直，往往據理抗爭，從不委曲求全。有時候，唐太宗聽得不是滋味，沉下了臉，魏徵還是照樣說下去，叫唐太宗下不了臺階。但是唐太宗不但不記魏徵的恨，反而誇獎魏徵說：“人家都說魏徵舉止粗魯，我看這正是他嫵媚可愛的地方!”在魏徵爲官期間，他爲唐朝貞觀年間的繁榮作出了很大貢獻。貞觀七年，魏徵被封爲鄭國公。
公元643年，魏徵病死。唐太宗很難過，親自去他家弔唁，這在古代中國是至高無上的榮譽。
可是在魏徵死後，一切都發生讓人瞠目結舌的變化。魏徵在死之前曾經向唐太宗祕密推薦當時的中書侍郎杜正倫和吏部尚書侯君集，說他們有當宰相才能。可是在魏徵死後，杜正倫因爲負罪被罷免，候君集因參與謀反而被斬首。李世民開始就懷疑魏徵這位他認爲很老實的人在朝廷有因私營黨的嫌疑。
後來，唐太宗又得知消息：魏徵曾把自己給皇帝提建議的書稿給當時記錄歷史的官員褚遂良觀看。唐太宗懷疑魏徵故意博取清正的名聲，心裏很不高興。先前唐太宗已經同意把衡山公主許配給魏徵長子魏叔玉，這時也後悔了，下旨解除婚約。到後來他越想越惱火，竟然親自砸掉了魏徵的墓碑，一段君臣佳話，竟以此爲終，讓人嘆息。
