公元636年，經過精心籌劃，哈立德率領“伊斯蘭遠征軍”先以小股部隊騷擾敵人，然後於636年8月1日在約旦河支流雅穆克河附近與東羅馬帝國拜占庭軍隊進行了決戰，最終東羅馬帝國戰敗，阿拉伯人將羅馬人驅逐出敘利亞，這一戰爭史稱雅穆克戰役。
公元633年出征的阿拉伯騎兵數量約爲25000人，而東羅馬援軍則有約5萬的龐大兵力。阿拉伯人的軍隊基本由騎兵組成，機動性強，由哈立德率領。東羅馬援軍主要由步兵組成，包括帝國最精銳的重裝鐵甲騎兵軍團，由提奧多拉率領。
公元636年，經過精心籌劃，哈立德率領“伊斯蘭遠征軍”先以小股部隊騷擾敵人，然後於636年8月1日在約旦河支流雅穆克河附近與拜占庭軍隊進行了決戰。然而，由於長途跋涉和水土不服，在加上中東氣候的極度炎熱，臨時徵調的東羅馬軍隊戰鬥力嚴重下降，同時其最重要的士氣已經蕩然無存。哈立德遂採取集中兵力，利用阿拉伯軍都是騎兵善與騎射的特點，利用沙暴爲掩護，向東羅馬軍隊發起大規模集團衝擊，拜占庭軍隊雖然拼死作戰，以堅固的方陣對付阿拉伯人的猛烈衝擊。結果，東羅馬軍隊陣亡超過4萬，先鋒統帥王弟提奧多拉被殺，東羅馬軍全線崩潰。
希拉剋略皇帝已經無力迴天，被迫率殘部撤退，當他撤退至敘利亞邊界時，面對他祖先歷盡艱辛奪取的領土卻即將淪喪的淒涼景象，作爲一代有作爲、曾經胸懷恢復羅馬榮譽大志的傑出君主的希拉剋略皇帝放聲痛哭!他仰天長嘆道：“美麗的敘利亞，永別了”! 這是希拉剋略的告別詞。
羅馬人戰敗後從此敘利亞永別了。雅穆克戰役的失敗，使東羅馬帝國喪失了敘利亞這一富庶的行省。公元640年，東羅馬帝國的整個敘利亞全部陷落。阿拉伯騎兵馬不停蹄的推進着：公元638年，佔領中東重鎮耶路撒冷;公元637年，阿拉伯遠征軍進入他邊上另一個大國波斯薩珊帝國，在大將賽亦德指揮下，阿拉伯騎兵在兩河流域重鎮卡迭西亞重創波斯軍，賽亦德乘勝前進，渡底格里斯河於六月奪取薩刪波斯首都泰西封。賽亦德建立了巴士拉軍營，這就是現在伊拉克南部最大城市巴士拉。公元650年，阿拉伯人與波斯軍在波斯本土決戰，波斯軍死傷十萬，自此一蹶不振。波斯王逃往中亞呼羅珊，波斯滅亡。
阿拉伯人在滅亡波斯的同時繼續打擊着東羅馬，公元642年征服埃及，公元645年征服利比亞，從此終結了羅馬對西亞和北非近千年的統治。公元669年，阿拉伯軍隊第一次進攻君士坦丁堡，隨後的公元674-680年，阿拉伯人連續七年進攻君士坦丁堡。東羅馬帝國軍隊在當時的敘利亞裔皇帝君士坦丁四世率領下，以帝國海軍希臘艦隊爲支撐，進行異常頑強的抵抗。抗擊中東羅馬帝國海軍希臘艦隊動用了一種即使在現在看來都頗具威力的原始火焰噴射器“希臘火”。最終阿拉伯艦隊有三分之二的船隻被焚燬，人員陣亡不少於20萬。東羅馬帝國得以保全，更重要的是，東羅馬帝國的勝利成功的將企圖征服歐洲基督教文明的阿拉伯人阻擋在了歐洲之外。而東羅馬海軍在這場戰爭中發揮了舉足輕重的作用。
雅穆克戰役是阿拉伯人進軍波斯和東羅馬帝國的戰略開端，可謂意義重大。
