公元1275年，忽必烈再次向日本派遣使團，由禮部侍郎杜世忠和兵部侍郎何文著帶領，要求日本稱臣，以免再度興師入侵日本。
公元1275年4月15日, 元朝禮部侍郎杜世忠、兵部郎中何文著一行抵達日本長門國的室津，他們的計劃是越過太宰府，與日本京都朝廷直接進行交涉，卻被長門守護押送回太宰府。太宰府接到北條時宗的命令，又將使團成員送至鎌倉。
這是忽必烈所派出的使團第一次來到鎌倉，但是迎接他們的不是談判桌，甚至不是以往的拒絕，而是日本武士的斬首極刑。這一次，年輕的北條時宗態度更爲強硬。
公元1275年9月7日，使團主要成員共計五人全部被拉到鎌倉郊外的龍口斬首。
臨刑，杜世忠作此絕命詩篇：
出門妻子贈寒衣，
問吾西行幾日歸?
來時徜佩黃金印，
莫見蘇秦不下機。
杜世忠的悲劇一方面是因爲幕府“爲他們最近的成功而驕傲,相信上帝能挽救他們”，更多是源自於鎌倉幕府的武家政權特質。
日本學者今谷明對此所作的分析可以說是相當客觀的：“被置於長期鎖國狀態下的爲政者的無端猜疑，往往容易引起國家之間的悲劇 多次殺害元使節的得宗政權就是其典型。既然殺害了外交使節 日本方面已經違反了規則，那麼文永、弘安的戰爭就不能單純地看作元的單方面侵略了。”
在被北條時宗處死的使者中，有漢人也有高麗人，還有畏吾兒人。
忽必烈不可能忍受這般侮辱。
在當時，蒙古人作爲一支古樸的民族，其殺戮成性代表了它落後的一面，但是他們也更加堅定地認爲斬除使者是兩國交往的大忌，是對自己最大的污辱。
早在公元1218年，當花剌子模國王處死了成吉思汗的使者和商隊後，就曾引起成吉思汗的極大憤怒，蒙古帝國第一次西征即因此而爆發。
忽必烈與他的祖父一樣，決定不惜一切代價懲罰日本。他一方面多方招募軍隊、籌集物資，另一方面決心與日本週旋到底，繼續“任性”地派遣使者要求日本迅速朝貢稱臣，他似乎是要驗證日本人到底能把自己輕視到何種程度。
公元1275年2月末，元世祖忽必烈將由南宋降卒組成的“蠻子軍”一千四百人派往高麗，進紮在海州(黃海道海州)、鹽州(同道延安)、白州(同道白川)三地 這三州一直以來都是蒙古軍團的屯田駐地。
9月，大都方面又派人探索到日本的新海路，並命高麗再次修造戰艦。
10月，高麗任命金光遠爲慶尚道都指揮使，負責修建戰艦。
11月，高麗王室又向慶尚道徵發羽毛和鐵材。
公元1276年正月，高麗方面突然接到了停止對日戰備的詔書。其原因並不在於元世祖忽必烈接受了高麗君臣的“哀哀之訴”，而是因爲在中國大陸長江以南的宋元戰場上，元軍自公元1273年2月攻陷襄陽後，長驅而下直取江南，但戰事進展並不順利。江南的江湖人、平民百姓、南宋正規軍這些民間和官方力量成爲元軍阻礙。但戰事畢竟在艱難推進，公元1274年正月，南宋安慶府宣告淪陷，府知事范文虎向元朝投降。公元1275年，建康又陷，元軍兵鋒直指南宋首都臨安。一路打來，南宋軍民堅強的抗戰意志，使忽必烈認爲臨安絕不是那麼容易就打得下來的。所以忽必烈就先停止對日征伐，以滅亡南宋爲要務。
在忽必烈發動第一次東征日本戰爭的同時，南宋依然是它的軍事推進重心。比如在公元1274年12月，從襄陽出發的伯顏足足率領戰船一萬艘戰船進入長江，與南宋水軍進行交鋒，而第一次東征日本之時忽必烈只是派遣了九百艘高麗式戰船。
江南戰區的軍事進展卻比忽必烈預想的要順利。顯然，隨着襄陽、樊城、臨安等重鎮的陷落，南宋朝廷已經失去繼續抵抗的意志。
公元1276年2月5日，與中國北方政權對峙長達一個半世紀的南宋政權基本落下帷幕 南宋首都臨安城陷落，七歲的宋恭帝和謝太后在驚恐中向元朝投降。
從海路逃離臨安的陳宜中、張世傑等人，又擁立皇太子爲帝，改年號爲景炎元年，在福建、廣東等沿海地區繼續抗元活動，並且他們手中也有一支不可小視的陸海軍力量。
當中國大陸的戰事沒有結束之時，元朝無法調集充分的人力物力開闢大規模的第二戰場。而當南宋已經基本平定，元朝當然要回過頭來繼續進行遠征日本的工作。
公元1277年12月，對於忽必烈來說，高麗發生了一件不愉快的變故，可以認爲是第二次東征日本前的一個小插曲。
在那裏，有人密告高麗將軍金方慶私藏兵器戰艦，試圖攫取高麗政權，並起兵反元。甚至連高麗國王對忽必烈的忠誠度也被人猜疑。因證據不足，一時未作處理。
第二年1月，與金方慶同朝爲將又同樣被元世祖倚重的高麗大將洪荼丘接手了這個案子。他與金方慶素來不和，雙方矛盾的焦點在於權力的爭奪。他以酷刑逼迫金方慶招供，在冰天雪地裏金方慶“肌膚凍如潑墨”，但是金方慶這位身經百戰的將軍沒有招供。
忽必烈沒有聽從洪荼丘的一面之詞，將金方慶召回元大都，試圖將金、洪二人矛盾作淡化處理，還給予高麗政府更多的自治權。這一年，他賜給高麗國王一枚“駙馬高麗王”金印。
忽必烈未必對金方慶沒有絲毫的懷疑，作爲一個在馬背上出身又試圖以“漢法”治國的帝國元首，他很清楚人性是什麼東西。臣屬的忠誠與否，在很大程度上只是取決於皇帝的實力。
南宋抵抗勢力終於在公元1279年2月被元軍蕩平。崖山一役，南宋丞相陸秀夫揹負八歲小皇帝跳海赴死，海上浮屍十萬衆，給南宋王朝徹底畫上了句號。那位幼小的帝王和他的數萬主動赴死的臣民，認爲自己死得其所。
緊接着，忽必烈命江南的揚州、湖南、贛州、泉州四省建造軍艦六百艘備徵日本。
日本學者中島樂章這樣推測：“在第二次遠征日本所用戰船中，東路軍九百艘戰船全部由高麗建造，而可以得到確認的江南所造戰船，僅有至元十六年(即1279年)的六百艘，其中泉州所造戰船，僅有五十艘。且不論《元史》中沒有記載的造船數，單從當時最大的海港泉州的造船數僅有五十艘這一點來看，新建造戰船也不過數百艘。而第二次遠征日本時，江南戰船總數竟有三千五百艘，其中大部分極有可能是元軍截獲、接管原南宋水軍的戰船 其中內河船舶又居多 由於內河戰船吃水較淺，抗暴風雨能力較弱 ”
在下達造船命令之後，元世祖又召見南宋降將范文虎，問其東征方案。
作爲一名戰將和降將，范文虎當然想立即立下戰功，但是他又試圖通過和平的方式解決日本問題。他建議元世祖，在出徵之前由他以南宋舊臣的立場再派一次赴日使者，希望能夠說服日本來朝。忽必烈並不反對。
於是范文虎的兩名使者周福和欒忠被派向日本，在6月下旬到達博多灣，爲表示善意，他們甚至帶了一名日本在華留學僧一起前來。
事實證明，這次出使行動是典型的狗尾續貂、自討無趣之舉，鎌倉幕府已經殺過一批使者，北條時宗不在乎再殺一批。就連態度相對和緩的京都朝廷都認爲“亡宋舊臣直奉日本帝王之條，誠過分歟!”
周福和欒忠在博多被斬首。
元世祖忽必烈也可能根本對這次出使沒有寄予絲毫希望。
公元1281年正月，忽必烈召集阿剌罕、范文虎、忻都、洪荼丘等將領，親自主持召開東征日本軍事會議。
元朝最終確定設置徵日司令部“徵收日本行中書省”，並將東征大軍兵分兩路：一路以洪荼丘、忻都、金方慶爲首，率蒙古、高麗、漢軍四萬人、舵工水手一萬七千人，分乘戰艦九百艘自高麗合浦出港;一路以阿剌罕、范文虎爲首，率江南軍十萬人、戰船三千五百艘，自寧波港出發，這批江南軍隊還受命攜帶農具、稻種，意圖赴日屯田，以爲長久之計。
兩軍約定於6月中旬在壹岐匯合，共同進攻博多太宰府。
2月20日，東路軍諸將從大都出發，臨行前，元世祖忽必烈特地對他們作了以下說明和要求：“始因彼國使來，故朝廷亦遣使往，彼遂留我使不還，故使卿輩爲此行。朕聞漢人言，取人家國，欲得百姓土地，若盡殺百姓，徒得地何用。又有一事，朕實憂之，恐卿輩不和耳。假若彼國人至，與卿輩有所議，當同心協謀，如出一口答之。”元世祖的告誡簡而言之爲兩點：一、依照漢法，取人國家，不可濫殺無辜;二、衆將要戮力同心。
日本方面也並非坐以待斃。在第一次蒙古來襲的戰事中，幕府執權北條時宗痛感日軍指揮散漫、戰鬥力低下，便三令五申整飭軍律，進一步強化“異國警備番役”制度，北條時宗在公元1280年年底的一份幕府法令中警告說：“蒙古異賊等明年四月可襲來雲 近年守護御家人 多以不和之間，無同心儀之由 不顧天下大難，甚不忠也，御家人已下軍兵者，隨守護之命，可致防戰之忠 相互以背仰者，永可被處不忠之重科 ”
北條時宗屢次勸諭，他對將軍們的要求與忽必烈如出一轍：希望各方面能夠放棄內訌，精誠團結。
按照元軍的既定作戰計劃，東路軍於5月3日從高麗出發，順風抵日，第一部作戰目標仍然是攻取對馬島和壹岐島。
東路軍在日軍干擾下完成登陸，以大炮首攻，騎兵衝鋒，附以弓弩，日軍敗退，其將領少貳資時戰死。5月21日，元軍佔領對馬島、壹岐島。
元軍二度來襲、日軍臨陣敗退的消息很快傳至京都，朝野上下再次陷入慌亂境地，一時間人心惶惶，京都官民瘋狂儲備糧食，以致無米可買。
日本後宇多天皇得到消息後在神宮整整祈禱七天七夜，龜山上皇則派人到伊勢神宮許願“願意殉身以代國難”。
幕府執權北條時宗得知戰況的時間稍晚，他問計於南宋赴日僧人祖元大師，祖元要求他“血書大經”，北條時宗立即刺破手指以血寫經祈禱。這種行爲對於戰爭的進展表面上看沒有關係，卻能最大限度地凝聚本國民心。這大概就是宗教的厲害之處。
另一方面，面對元軍的繼續推進，日軍也加緊了防守部署。參加過上一次抗蒙戰爭的藤原經資依然任九州地區戰事總指揮，他動員了約四萬武士守衛沿海石壘陣地，甚至連其老父都披甲參戰。此外，四國等地的武士約六萬人也被緊急動員，以作爲後續兵力補充前線。
顯然，元軍二次東征所面對的抵抗要超過第一次。
東路軍在首戰告捷之後，按照早先的部署，應於此地等候南路軍會師。
洪荼丘、忻都等將領，有搶功突進的衝動。並且他們從捉到的日本島民口中得知，日本已於太宰府西部六十里處進行戰備佈置。東路軍立即將這一情報向位於高麗合浦的“徵收日本行中書省”做了彙報，認爲無軍應該乘日軍佈置未備之時乘勝進擊。日本行省很可能默認了這一計劃。
東路軍沒有再等待江南軍的到來，而是先繞過對馬和壹岐，於6月6日南下進攻博多灣。
由於鎌倉幕府早在首次遭受蒙古來襲之後，就在博多沿岸構築了石堤等防禦工事，而且有四萬日本武士嚴加守衛，元軍很難找到合適的登陸地點，於是轉而進軍守備相對薄弱的志賀島。
志賀島地形狹窄，使得元朝大軍團難以發揮優勢，反而使得日本武士單兵作戰習慣的優勢得以發揮。元軍在志賀這個小島沒有取得任何實質性進展。
當天夜裏，日軍藉助夜色對停泊在志賀島沿海的元軍船隻發起襲擾，且偷襲成功，焚船而逃。
元軍自此加強了戒備。
日方的偷襲不但不能奏效，反而導致本國武士死傷慘重，隨即下令停止夜襲。但是像伊豫國御家人河野通有這樣的頑強武士仍舊堅持連續襲擾元軍。
6月7日黃昏時分，河野通有帶着兩艘小船對元軍船隻發起自殺式突襲。偷襲行動被元艦發現之後，一時間矢石如雨，河野通有五名部下立時橫屍船頭，其伯父也在隨後的戰鬥中負箭身亡，河野通有本人則被石弩擊中。
接下來的幾天裏，元日兩軍繼續發揮各自己的優勢進行對壘。面對大軍壓境，日軍不能將元軍逐出志賀島及其附近海域，但是元軍也未能成功突破日軍防線，登陸該島。雙方陷入了膠着狀態。
日本《八幡愚童訓》記載：“六日至十三日，晝夜合戰不休”。
元軍從高麗合浦出兵至今，已在船上連續生活一個多月。盛夏的酷暑和生存環境的惡劣使得元軍中開始蔓延傳染病，已有兩三千人病死。
在今津方面，企圖登陸的元軍也被駐防當地的薩摩、大隅等國的武士所阻止。
這時，同江南軍的匯合期限將至，忻都等將領經過商議，決定撤回壹岐島該島是兩路大軍事先約定的會師地點。
雖然元軍進展受阻，但是日軍戰敗的流言卻在日本內地流行開來。在京都，甚至傳言“九州已經滅亡，不久就會攻打京都”。
東路大軍在壹岐島逗留一段時日之後，眼見與江南軍約定的會合期限已過，該島周圍卻仍然不見一隻帆影。
忻都召集衆將，進行了數輪磋商，尋求對策。
高麗籍大將洪荼丘認爲形勢不容樂觀：“向約江南軍與東路軍六月望前會於壹岐。今南軍不及期，我軍先至，大戰者數矣，船腐糧盡，將其奈何?”
此時，洪荼丘已生退意，只不過沒有明說而已。但其他將領也拿不出好的主意，就連一向敢言的金方慶此時也不發一言。
十幾天後，金方慶才說出了自己的明確意見：“我等奉旨備三月糧，今尚有一月之糧，不如先待江南軍到，再合而攻之，必可破此島夷”。
金方慶的建議遂成決議。東路軍繼續固守壹岐島。
江南軍本應在6月中旬前到達平戶島，與東路軍會師，卻遲遲不見蹤影。
原來早在3月，就有日本船隻順風漂流至中國大陸，元朝方面令其水工畫日本地圖，並詳細詢問日本沿海地利，得知在太宰府西部附近有個名爲平戶的小島，周圍皆水，是一處天然的港口，且防備薄弱。
元朝徵東行省得知這個消息後，便臨時更改了作戰計劃，決定把東、南兩軍的會師地點改在平戶島。因爲太宰府纔是此次東征軍所要攻佔的戰略要地，平戶島近水樓臺，元軍可繞過對馬等島嶼，直接實施“越島作戰”。
忽必烈對這個改動方案表示認可。於是江南軍方面便派出了一支六十艘船的先遣隊赴日，意在向東路軍通報作戰方案變更之事。但是江南軍先遣船隊卻因航道生疏，沒有如期到達壹岐島。
另外，事先安排元軍總指揮阿剌罕與江南軍同時出征，但阿剌罕卻因年紀老邁而突然病故，忽必烈不得不臨戰易帥，臨時任命阿塔海爲兩路軍總指揮，以履行阿剌罕之職。阿塔海又不能立即達到寧波，於是范文虎在倉促之中於6月18日命令江南軍起錨離港。
江南軍在遭遇多端變故的情形下，於公元1281年6月底到達日本。該軍之一部突破日軍防線，進入壹岐島。7月初，該軍主力十餘萬人到達預定陣地平戶島。
7月上旬，固守在壹岐島的東路軍及江南軍之一部開始向平戶方向推進。南北兩軍終於完成匯合，能夠參與作戰的兵力共計十四萬。
平戶島周圍海域佈滿了遮天蔽日的元軍旗幟。經過幾日的整編，7月下旬，元軍派出小股部隊進行嘗試性登陸，並於27日佔領肥前鷹島，將之作爲前進基地。
與此同時，日軍方面也開始調整兵力，多路援軍馳援平戶島、鷹島。
在這一次戰爭中，日軍的戰爭動員和組織能力都有所提高，他們憑藉有利地形構築防禦工事，並且奮勇作戰，但是終究不能對元朝聯合部隊起到有效的阻擊作用。並且江南十萬大軍還沒有實質性參與到戰爭中來。衆所周知，登陸戰的關鍵在於搶灘，而非此後的陸戰，一旦十四萬大軍在博多登陸，日軍的抵抗力將被進一步削弱。
7月30日，元軍原計劃於該天啓動全面進攻。但十多萬元朝官兵都看到了這樣奇怪的一幕：海上山影浮波，大魚翻躍;並且能聞到濃濃的硫磺味。諸將領在商議之後撤銷渡海登陸命令。
這是海上風暴來臨的徵兆。
面對如此光怪陸離的景象，元軍將士陷入恐懼中，但由於蒙古籍統帥沒有成熟的航海經驗，也就沒有采取果斷措施應對，而江南軍中的原水軍士兵經歷的水上戰鬥大多都是發生在內河即長江一帶，元軍中也有通曉天文海相的將領，其中江南軍將領張禧在擔心之餘，果斷率部棄舟登陸進駐平戶島，並且命令所部船隻停泊距離要達到五十步之遙。
元軍的悲劇就在這天夜裏發生了。夜半，颶風四起，暴雨狂飆，巨浪如山倒。這場颶風一直持續到第二天。
部分元軍船隻頃刻間傾覆海底，其他船隻經過颶風顛簸，或者因爲泊位過近，在巨浪中相互撞擊，或者因爲本身就是內河船隻，抗風暴能力差，電閃雷鳴之中，數千船隻被巨型風浪撕開。溺死者不計其數，層層疊疊的屍體被海流帶至港口。
范文虎，這位一直活動在長江流域的南宋降將，並無海上常識，他的船隻同樣被風暴撕毀，其本人僥倖抱得船板漂流海中，被部將張禧救起。
颶風過後，諸將緊急召開會議商討對策，范文虎認爲應該立即撤退，張禧勸阻說：“現在士卒已溺死大半，存活下來的都是經過風浪洗禮的壯士，何不乘其有不戀生死之心，在戰鬥中取糧於敵，以求絕地反擊?”
張禧在風暴前的籌備工作中早已顯示出了智謀，如今其置生死於度外敢打絕地反擊戰足見其勇武，不愧爲一員優秀將領。
元軍固然損失慘重，但是十四萬大軍真正在戰爭中被消耗的，查遍中國、朝鮮、日本三國史料，哪怕只是依賴日本一國史料(沒有貶損日本之意，古往今來，對於戰爭中消滅敵人的數量，己方往往有誇大戰果之嫌)，不過三千人左右。而在風暴之中遭難者即使佔大半，倖存者最保守估計也有四五萬人，這一數量比日本佈置在整個太宰府的兵力還要多。
如果全軍上下能夠統馭有方，置之死地而後生，組織積極防禦，即使對方以逸待勞，也絕不至於落得殘軍兩三萬人投降、多數梟首的悲慘命運。作爲軍人，死在戰場上，也遠遠比投降後死在敵人的斷頭臺上要幸運得多。況且，戰爭中充滿變數，日本敢於以羸弱國力對抗威武大元，元軍絕無道理在兵力並不佔劣勢的前提下就放棄戰爭主動權。
范文虎等人徹底喪失了繼續戰爭的信心。他表示立即罷兵，各部自行突圍，如果歸朝之後元世祖問罪，由他一人負責。
張禧無奈，只好借船給范文虎，面對平戶島上四千餘名兵卒無船可乘，范文虎打算棄之不管。張禧不忍，將船上的七十五匹戰馬以及所有輜重拋入海中，帶領平戶島上四千軍士撤退。
高級統帥的放棄，把最後一點生存的可能變成毫無可能，甚至給其他倖存者帶來了滅頂之災。
剩下的元軍殘部雖然議推張百戶爲主帥，號之曰張總管，聽其約束，多方努力試圖伐木造舟而還。本來只有百人統領權的張百戶，只能將軍令下達給近旁的士兵，根本無法有效指揮數萬大軍。
元軍倖存者頓時羣龍無首，軍人面臨隨時降臨的死亡威脅，這種情況下，只有兩種可能性的選擇，一種是拼死相搏，戰至流光最後一滴血;一種是放棄抵抗，任人宰割。
很不幸，高級將領的逃亡造成指揮系統完全癱瘓，將他們中的至少一半人置入到後一種境地，而選擇抵抗的一批官兵則在相互砍殺中結束了自己的生命。
數萬殘部沒有一粒糧食，又經過一夜颶風顛簸，失去了作戰的氣力，一番抵抗之後，“盡死，餘二三萬爲其虜去”。
這批戰俘在一週之後被帶到博多，其中的蒙古籍、高麗籍及中國北方各族出身的官兵 即“漢人”悉數被斬首。
關於滯留下來的江南軍的命運，各國史料可以說衆說紛紜。
公元1281年，是爲中國元朝至元十八年，日本弘安四年。所以該次戰爭又被日本稱爲“弘安之役”。
喪師辱國的范文虎回去後無法交代，於是撒謊告訴忽必烈：“赴日之後，本欲進攻太宰府，不料暴風突襲，集結殘部組織戰鬥之際，萬戶厲德彪、招討王國佐、水手總管陸文政等不聽節制，倉皇逃逸，臣不得已收拾殘軍回到高麗，爾後就地遣散。”
元世祖對海洋也是陌生的，但他清楚海洋的脾氣與草原和陸地肯定是不同的，在沒有證據的情況下，只有相信范文虎的謊言。
一年之後，即公元1282年，在日本淪爲奴隸的一名江南軍士兵歷經劫難逃脫回國，向元世祖忽必烈說出了風暴之後的實情：“諸將各擇堅好船乘之，棄軍士十餘萬人于山下”。不久，又有兩名士兵也逃回國內，所述與前者相差無幾。
元世祖忽必烈震怒，下令將范文虎等徵東諸將治罪，獨赦張禧。
