而皇甫嵩的將略，在平定陳倉之亂時，得到充分的體現。陳倉之戰，皇甫嵩數次違反兵法，卻次次出奇制勝，最終取得勝利。當時，涼州地區的少數民族也在一些漢人官員的慫恿下起兵叛亂，韓遂等人推舉王國爲自己的首領。當時，王國包圍了陳倉，一旦陳倉陷落，關中就很危險了。於是，朝廷下令有皇甫嵩和董卓率軍四萬，前往征討。
董卓做爲副帥，總是覺得自己手握涼州雄兵，視天下英雄如無物，對在剿滅黃巾之亂中豎立威名的皇甫嵩也不放在眼裏。在董卓心中，黃巾軍不過是烏合之衆，揮手之間，自然可以掃滅。面對陳倉被圍，董卓主動求戰，說：“陳倉危急，請速救之。”可是皇甫嵩卻說：“不然，百戰百勝，不如不戰而屈人之兵。”打勝仗又有什麼了不起呢，在古代打仗殺敵一千，自傷八百。皇甫嵩認爲，眼前的陳倉雖然只是一個小縣，但是城池堅固，易守難攻。現在王國包圍陳倉，很難在短時間攻打下陳倉。只要時間一久，王國的士氣必然下降，等到他們軍隊疲憊的時候，率軍突擊必然可以大獲全勝。
果然，王國進攻陳倉八十多天也沒有拿下，糧草不繼，準備撤軍。此時皇甫嵩下令突擊，準備和陳倉守軍裏應外合，內外夾擊。此時董卓也上前阻止，說絕對不可以，並引經據典說：“窮寇勿追，歸衆勿追。”皇甫嵩於是給董卓分析當前形勢，認爲之前自己不主動出擊，是因爲王國軍隊士氣旺盛，一旦交戰，自己只有四萬人馬，而王國軍隊十餘萬，很難取勝。此時王國經過八十多天的攻城戰，士氣低落，將士疲憊。而我軍經歷八十多天的養精蓄銳，早就期待一戰，此時追擊，我強敵弱，必然大勝。董卓堅持自己的看法，於是皇甫嵩獨自率領自己手下的軍隊進攻，果然大獲全勝，斬首萬餘人，陳倉之圍解除了。
王國大敗之後，被手下韓遂幹掉，然後劫持一位叫做閻中的官員繼續做自己軍隊的傀儡。可不久閻中死去，韓遂和其他首領起了內訌，互相攻殺，涼州兵亂也就漸漸平息下去。不過，皇甫嵩雖然是一位出色的將軍，對於軍事很在行，可是對於政治，反應卻很遲鈍，以至於讓董卓坐大，最終禍國殃民，自己也深受其害。
