自西周起，戎族開始威脅中原王朝，周幽王烽火戲諸侯後，犬戎部落攻陷鎬京，迫使平王東遷。戰國時林胡、樓煩多次侵擾趙國，趙武靈王胡服騎射驅逐林胡、樓煩，在北邊新開闢的地區設置了雲中等縣。林胡、樓煩北遷融入新崛起的匈奴。在戰國末期，趙國大將李牧曾大敗匈奴。
公元前3世紀匈奴統治結構分爲中央王庭、東部的左賢王、和西部的右賢王，控制着從裏海到長城的廣大地域，包括今蒙古國、俄羅斯的西伯利亞、中亞北部、中國東北等地區。
戰國末年，趙國名將李牧出動戰車1300乘、騎兵13000人、步兵5萬、弓箭手10萬，與匈奴會戰，大破匈奴十餘萬騎，從此匈奴十餘年不敢南犯。
秦始皇統一中國後，公元前215年，命蒙恬率領30萬秦軍北擊匈奴，收河套，屯兵上郡。“卻匈奴七百餘里，胡人不敢南下而牧馬”(《過秦論》)。蒙恬從榆中沿黃河至陰山構築城塞，連接秦、趙、燕5000餘里舊長城，據陽山逶迤而北，並修築北起九原、南至雲陽的直道，構成了北方漫長的防禦線。蒙恬守北防十餘年，匈奴懾其威猛，不敢再犯。
然而到了漢朝曾與匈奴進行多次大規模戰鬥，戰況卻不那麼樂觀。公元前201年，韓王信被迫投降匈奴。次年，漢高祖劉邦親率32萬大軍征討，在白登被匈奴冒頓單于40餘萬騎兵圍困七晝夜。後用計逃脫，之後漢朝採納了劉敬的建議，對匈奴實行“和親政策”，以漢室宗女嫁與單于，並贈送一定數量的財物以及開放關市准許雙方人民交易。後文、景諸帝也是沿用和親政策以休養生息。然而匈奴仍不滿足，不時出兵侵擾邊界。
統一的漢王朝爲什麼就不過匈奴呢?
第一，不論是秦朝還是戰國時期，各個諸侯國幾乎都保持着戰時體制的狀態。在這種戰爭的狀態下，戰國各諸侯國和秦朝軍隊的戰鬥力被提升到一個新的高度。尤其是戰國時期，大小戰爭的磨練乃至全民皆民的狀態，這是漢朝初期難以相媲美的。所以，從自身角度來說，戰國和秦朝時期的戰鬥力更強，漢朝初期的戰鬥力則相對較弱，自然在對抗匈奴上吃了虧。在這一點上，漢朝初期皇帝出巡，連幾匹像樣的戰馬都找不到。而缺乏強大的騎兵，這在對戰匈奴上無疑要吃虧。
第二，戰國和秦朝面對的匈奴，和漢朝初期面對的匈奴，實力差別大。根據《史記•匈奴列傳》的記載，在秦朝時期，匈奴的地盤和軍隊十分弱小，再加上秦國的長城和蒙恬統率的精銳軍團，匈奴根本沒法從秦朝手上佔得便宜。漢朝時，匈奴出了個不世出的英雄——冒頓。這貨對於匈奴的意義，不下於秦始皇之於中國，他東滅東胡，西逐月氏，盡服北夷，控弦之士三十萬，這時匈奴達到了其力量的巔峯。
第三，不僅面對的匈奴異常強大，漢朝初期因爲剛剛從秦末起義戰爭和楚漢戰爭中掙脫出來，整個國家可以說是百廢待興。對此，劉邦乃至後面的漢文帝、漢景帝，都希望通過休養生息來發展經濟，提升國力。
到漢武帝時，西漢經過近70年的休養生息，經濟、國力大大增強，對匈奴從戰略防禦轉爲戰略進攻，發動了三次大戰：河南之戰(也稱漠南之戰)、河西之戰、漠北之戰。
公元前127年，漢武帝派衛青收復河南地區;公元前121年，漢武帝派霍去病奪取河西走廊，受降匈奴右部十萬人，設武威、酒泉、敦煌、張掖四郡;公元前119年，衛青、霍去病率五萬騎兵分兩路出擊，衛青擊潰單于，霍去病追殲左賢王7萬餘人，封狼居胥。兩軍共殲滅匈奴軍9萬餘人，使其一時無力渡漠南下。
