1853年太平天國定都天京後，爲了擴大戰果和清朝爭天下，洪秀全、楊秀清等人決意派出李開芳、林鳳祥等人帶領着兩萬多來自廣西的精兵悍將前往北方，目的是拿下北京城，把清朝皇帝從龍椅上踹下來。
北伐軍出發後，一路上可謂攻無不克戰無不勝，一個個驕兵悍將根本沒有把清軍放在眼裏，但是他們怎麼沒有想到，北伐路上的第一個跟頭來的這麼快。
1853年7月8日，太平軍到達懷慶府城下，當天晚上便發動了猛烈的進攻。懷慶府也就是現在的河南省焦作市、濟源市和原陽縣所轄地域，臨靠山西省和直隸省(今河北省)，地勢險要，是黃河北岸一個非常重要的軍事重鎮。當時鎮守懷慶的是清朝知府餘炳熹、河內令裘寶鋪等，在太平軍遠距懷慶時，城內可用兵力只有三千人，後來太平軍打到懷慶府外圍時遇到了地方武裝的激烈反抗，清朝懷慶官員便藉着這個時間開始備戰，他們製造兵器、準備火藥、儲備糧食，爲了打一場有準備的仗。
晚上時，太平軍利用雲梯進行攻城，城牆上的清兵則用石頭滾木砸下去，雙方進行了激烈的戰鬥，但是那一晚並沒有分出勝負，此後的數日裏，兩方進行了數次的交戰，各有勝負。守城的清朝官員根據形勢的判斷，在太平軍數日疲憊戰鬥後是不是夜裏讓士兵“縋城而出”，悄悄去太平軍營中放火，使得太平軍大爲惱怒。
強攻沒有優勢，太平軍便使出管用的戰法，土營士兵掘地道安放炸藥，一時之間火光沖天，城牆立刻破了一個大洞，對清軍造成極大的震懾。但是清軍沒有放棄，每一次被炸開，士兵們就冒着炮火用磚石把缺口堵住，竟打退太平軍兩次攻擊。
連日的戰鬥中，清方士兵傷亡慘重，爲了守好城池，清軍官員發動城中男子一同守城，並釋放牢中的罪犯，告訴他們可以憑藉戰功換取自由。這一個決定可以說是拯救了懷慶府，罪犯中有一個是礦工出生，對挖地道很瞭解，當然也知道怎麼破解，“乃於城中穴地， 置大甕,，坐以聽之，準聲所起, 亦掘地道， 掘愈遠,，聲愈近,，至能辨人語，引水驟灌之， 凡破地道三十餘處”。
地道戰沒有用，太平軍就準備困死城中之人，他們建築高牆，不讓任何人出去，城中果然很快就糧草告急，知府餘炳熹派出軍士悄悄潛出，面見勝保，希望勝保援助糧食並在合適的時間前後夾擊太平軍。太平軍看的實在太緊，糧食只能一點一點的運進去，城中也算是未曾斷糧。
清政府從勝保的奏報中得知懷慶被圍，便立刻下令周圍的軍隊火速援救，過了不到半月時間，清軍已經彙集了近兩萬人，人數已經和太平軍相當。腹背受敵的太平軍不得不撤退，這一戰，太平軍攻城近五十餘日，沒有佔到任何便宜，反而是將損耗了部分精銳，糧草和攻城器械也即將用盡。
太平軍攻擊懷慶府失利，爲日後北伐的失敗埋下了禍根，懷慶耽擱五十多天，直接影響了整體行軍速度，推遲了到達京津地區的時間，給清軍準備的機會，也讓自己在冬季中損失慘重，直到最後全軍覆沒。
