林邑地處今越南中南部多珍奇寶物，大業元年煬帝委任劉方爲罐州道行軍總管，以尚書右丞李綱爲司馬負責侵略林邑。之前劉方將軍已經把交趾(今越南河內)平了。公元605年(大業元年)正月，劉方率舟師主力至海口(林邑入海處)。林邑王梵志派兵據險抵抗，被隋軍擊潰逃散。三月，劉方率軍進至闍黎江，林邑人據南岸立欄柵，意圖阻止隋軍渡江。劉方命令兵士盛舉旗幟，雄擊金鼓而進。隋軍旌旗招展鼓聲震天，強大的陣勢與軍威完全把林邑人驚懼了從而潰逃。
劉方隨即指揮大軍渡過闍黎江。行至三十里，林邑人乘坐着大象，從四面八方圍聚而來。妄圖與隋軍決戰威震住隋軍。劉方忙命令士兵們用強弩射擊大象，大象被紛紛射中受傷而潰亂逃跑，林邑人的軍陣被受傷的大象踐踏衝亂。劉方乘勢指揮精銳之兵發起進攻，林邑軍潰散。隋大軍全線發起猛攻，大獲全勝，只是抓着的俘虜就以萬計。此次戰役波瀾壯闊場面宏大，隋軍英勇善戰表現出無畏無懼的英雄氣概。
劉方率大軍一路向南追擊，屢戰屢勝，戰無不勝。於是濟區粟，度六裏，前後逢賊，每戰必擒。隋軍進至大緣江，林邑人又據險爲柵，又被擊破之。並追過了馬援銅柱以南。隨後隋軍又向南追擊了八天，終於抵達林邑人的國都。夏季，四月，林邑王梵志被迫棄城奔逃到海上。劉方率隋軍進入林邑都城，繳獲林邑人都是用金子鑄成的廟主牌位十八枚。“獲其廟主金人，污其宮室，刻石紀功而還。”劉方命令刻石記錄了這次征伐的功績後班師還朝。
隋軍此次過於深入南方，作戰長達數月之久，從冬季打到夏季。班師回朝途中正處炎熱的夏季，隋軍士兵不適應南方悶熱潮溼的氣候，加上長途跋涉，士兵們很多染上疾病，有的士卒腳都腫了，死去十之四、五。劉方將軍也染上了病不幸死在回軍塗中。煬帝知道消息後非常痛心爲之惋惜，下詔褒獎贊美劉方將軍。詔曰:“方肅承廟略，恭行天討，飲冰湍邁，視險若夷。摧鋒直指，出其不意，鯨鯢盡殪，巢穴鹹傾，役不再勞，肅清海外。致身王事，誠績可嘉，可贈上柱國、盧國公。”
劉方將軍此次對林邑的征伐是歷史上中國軍隊在最南方的作戰，不僅挫敗雄壯的大象軍陣的攻擊，而且攻下了異國的首都，這是中國歷史少有的地道的侵略行爲。震服了南海百蠻，從此對隋朝貢不斷。這是中國的輝煌，爲中國的古代史爭光。《北史》、《隋書》贊曰:“劉方號令無私，治軍嚴肅，克剪林邑，遂清南海，徼外百蠻，無思不服。”
