由於先前征討劉秀失敗了，王莽於是再徵召42萬大軍，命令大司空王邑、司徒王尋前往南陽鎮壓。他甚至把上林苑中飼養的虎、豹、犀、象等動物驅趕南下，想以聲勢嚇人。並且將一個高過丈餘，腰有十圍的兇壯巨人名叫巨毋霸的大力士，改名爲“巨母霸”，封爲壘尉，即防守堡壘之人，派上戰場。表面看來，確實聲勢煊赫，王莽遂把這支部隊命名爲“虎牙五威兵”，號稱100萬。於公元23年夏季，南下與嚴尤、陳茂會合。
王莽的百萬大軍經過潁川郡時，“旗幟蔽野，埃塵連天，鉦鼓之聲聞數百里。”正好與劉秀所帶的在昆陽北邊陽關聚（今河南禹縣西北）巡查的幾千人遭遇。漢軍見新莽軍太盛，不待命令就爭相逃命。當時北伐軍總共纔有2萬人，且分散在所佔領的四郡。一時集中不起來，即使集中起來，也會被這百萬雄師碾爲齏沫。劉秀等人哪敢正面與之交鋒，沒辦法，也就跟隨衆人退回昆陽據城死守。漢軍將士們無不內心怯懦，驚魂未定，皆言不可抵擋，商量着逃跑的辦法，士氣低沉如暮雲。劉秀這時顯露出了他臨危不懼的英雄本色，他說昆陽是軍事重鎮，不能丟。現在敵強我弱，逃也免不了一死；唯有拼死一戰，或有勝機。但因劉秀資歷淺，在更始諸將領中威望不夠，認爲他“素日小敵怯，何來大敵勇？”所以沒有多少人信服。劉秀表示，願身先士卒，殺出重圍，去郾城、定陵搬兵。他只要王鳳、王常等人死守昆陽就行，等待援軍。當時昆陽守軍只有八九千人，劉秀遂帶着驃騎大將軍宗佻﹑五威將軍李軼、偏將軍鄧晨等13名心腹騎兵，由南門乘黑夜殺出。
新莽將領王邑很輕視漢軍，並不把這十幾匹人馬放在心上，認爲是逃兵而已；而更始將領王鳳則認爲這十幾匹馬，要想衝過新莽的陣營，那也簡直就是神話。因此，就在昆陽被重重包圍的情形下，決定投降。但王邑拒絕了，他說：“百萬雄兵，所過當滅，今日屠此城，以血礪刃，豈不快哉！”決心屠城立威，因此不肯接受王鳳的投降。王鳳頓成哀兵，唯有死守。昆陽城堅，王邑一時攻取不下，形成僵局。
劉秀到郾城、定陵一帶遊說，郾城、定陵兩縣都是舂陵子弟兵，義氣千秋，甘願同生共死。因此他先帶回來1000多人組成先頭部隊，回兵救昆陽。王邑自恃兵力雄厚，驕妄輕敵，“意氣甚逸”，又自以爲是，和王莽一樣，都是“腐儒”角色，迷信“聲威”之類虛的東西，並不把這股小部隊太當回事，僅派幾千人的巡邏隊阻擋劉秀。劉秀一改平日儒雅的形象，表現出大無畏的英雄主義氣概，衝鋒陷陣，來回衝殺，接連斬殺幾十個新莽兵。軍威大振，更始將領讚歎道：“偏將軍是見小敵怯、見大敵勇！甚可怪也，且復居前。請助將軍！”於是紛紛忘死，殺向敵陣。就這樣，劉秀首戰告捷。
劉秀不但勇猛，而且極有智謀，他寫了一封宛城已派大軍增援昆陽的書信，不日即可抵達，在送往昆陽途中，故意丟棄於地。王邑軍撿到後爭相傳看，王邑得知後大驚，加之新敗，軍心遂如秋草遇霜一樣，立時搖落。
而劉秀由於首戰告捷，個個意氣昂揚，恨不再戰。於是劉秀又在陸續趕來的援軍中，挑選精壯，組成一支3000人的敢死隊，如狼嚎叫似的向王邑的大本營猛衝。新莽軍本就是徵召來的各地郡兵，鬥志不強，又新敗怯敵，恐懼像瘟疫一樣蔓延。王邑又擔心州郡兵失去控制，遂下令各營堅守陣地，不準擅自出兵。這等於自捆手腳，只能陷入被動挨打的境地，因此雙方剛一交鋒，陣腳即亂，那些虎、豹、犀、象，首先傷了自己人，又不像訓練場上可以收攏。不多時，司徒王尋就死於亂軍之中，副帥一死，士氣頓挫。而堅守昆陽城內的王鳳守軍，趁機殺出城外，夾擊王邑軍。王邑腹背受敵，加之此時天助劉秀，風狂雨驟，滍川盛溢，王邑軍驚恐，爭着逃命，互相踐踏，溺死者不計其數，浮屍百里，水爲之塞。王邑﹑嚴尤﹑陳茂輕騎踏着死屍渡水而去，一口氣跑了上百里才停下。王邑回到洛陽只剩下長安勇敢數千人。百萬雄師就這樣一敗塗地，王莽的主力遂告覆沒。漢軍則戰果輝煌，盡獲武器輜重。
昆陽之戰，遂成爲中國古代戰爭史上以少勝多、以弱勝強的絕妙戰例。
劉秀一戰成名，與其兄劉縯成爲漢軍雙壁。
從此，王莽再也沒有能力和更始抗衡了。各地豪傑聞訊後紛紛樹立反莽大旗，撞響了新莽王朝徹底覆滅的喪鐘。
