粟末靺鞨部居靺鞨的最南方，早在唐初就已歸附唐。七世紀末，粟末靺鞨首領大祚榮統一各部落(確切地說，是統一附唐的各部落)，建立了政權。後來唐玄宗封大祚榮爲渤海郡王，加授渤海都督府都督。從此，粟末靺鞨建立的政權，就以渤海爲號。
渤海境內有十多萬人戶，經濟很發達。他們派人到長安學習，帶回許多漢文書籍。他們把土特產人蔘、貂皮以及馬、銅等輸入內地，受到內地的歡迎。
靺鞨本字應作靺羯，是自“勿吉”音轉而來，對此學界早有定論。靺鞨的粟末部實即勿吉的粟末部。最早記載勿吉粟末部的史書是《魏書》。《魏書》卷100《勿吉傳》記載，從和龍出發，經善玉山、祁黎山、如洛瑰水、太魯水，“又東北行十八日到其國。國有大水，闊三裏餘，名速末水”，“國南有徒太山，魏言‘太白’”。此勿吉居於松花江流域，南不包括長白山，北不包括黑龍江，顯然是指勿吉的粟末部。《魏書·勿吉傳》大部分內容都是對粟末勿吉歷史的記載。對於勿吉人的其他部落，《魏書·勿吉傳》僅提到“有大莫盧國、覆鍾國、莫多回國、庫婁國、素和國、具弗伏國、匹黎爾國、拔大何國、鬱羽陵國、庫伏真國、魯婁國、羽真侯國，前後各遣使朝獻”。所以，《魏書·勿吉傳》所載於延興年間赴北魏朝貢的乙力支，是出自粟末部的使者。據乙力支自稱：“其國先破高句麗十落，密共百濟謀從水道併力取高句麗”。可見，《北史》卷94《勿吉傳》、《隋書》卷81《靺鞨傳》所載粟末部“每寇高麗”是正確的，至晚在北魏延興(471-476)以前，粟末部已與高句麗連年征戰。
自夫餘衰弱以後，肅慎系各部即逐漸向東南遷徙，入居松花江流域，因而才因水爲名，號爲粟末。與此同時，高句麗也不斷北拓，攻佔原屬夫餘的領土，435年李敖出使高句麗時，發現高句麗的疆界已“北至舊夫餘”。粟末部與高句麗戰爭的起因當是爲了爭奪對夫餘故地的控制。494年，“夫餘王及妻孥以國來降”，投奔高句麗，高句麗人稱其爲“勿吉所逐”。當是粟末靺鞨也佔有了部分夫餘故地。但在此後與高句麗人的戰爭中，粟末部卻漸處於不利地位，最終降隋內附。
