1860年，外國列強守衛上海，對付李秀成的太平軍。儘管他們爲了使清政府遵守天津條約，而同時採取軍事行動。1860到1861年間，中國開始談判購買西方船隻槍炮，以及正式和非正式地僱傭外國陸軍和海軍人員。到1862年初，不但清朝中央政府已經答應購買一支配備英國軍官的海軍用於長江防務，而且江蘇和浙江地方官員也已開始招募像常勝軍這樣，由中外僱傭兵組成的軍隊全力對付太平軍持續不斷的威脅。而作爲署理江蘇巡撫的李鴻章，一開始支持常勝軍， 後來卻要解散常勝軍?
李鴻章在他的軍隊實施近代化的早期階段，深深依賴常勝軍管帶，以及引人注目的美國人華爾的個人幫助。他利用華爾的關係，取得槍炮、船隻和其他軍需品，他設法贏得這個美國指揮官的友誼，以博取列強的歡心。實際上，李鴻章更加把握住國內的政治現實。例如，他深知華爾同貪贓舞弊，但卻與有權勢的當地道臺吳煦私交密切，他認爲如果做出試圖削弱其中一人地位的任何努力，勢必招來另一個人的敵意。李鴻章心裏知道華爾至少參與了吳煦的某些非法活動，然而他在這個美國管帶生前並沒有對他或他們兩人公開採取行動。而是他繼續同華爾密切共事，在獲取武器方面互相建議和幫助，並且在對太平軍的軍事行動中，同淮軍密切合作。他在華爾身上看到一個“奮勇攻打”，“能傾服於上海衆洋人”的西方領袖人物，他認爲其武器極有威力，他的中國士兵“與洋人是一是二”，沒有什麼區別。
1862年，在抵達上海後兩個星期內，他看到了用近代西方武器直接對抗太平軍的效果，開始爲他的淮軍購買這些武器。隨後，他很自然地僱傭了常勝軍中的西方教練。到1862年末，李鴻章的軍隊已經有一千餘支來複槍，僱傭了六七名常勝軍的西方教練，不及一年，淮軍已擴充到4萬餘人，這時他已擁有1萬餘支來複槍、若干門太炮以及十幾個新來的外國教練而感到自豪，這些教練大多數來自常勝軍。
然而，華爾於1862年9月末在慈溪戰役中不幸遇難，這給李鴻章同時帶來了機會和困難。一方面，這幫助李鴻章削弱了吳煦的勢力，因爲這個上海道臺對華爾十分依賴。另一方面，這又使這個江蘇巡撫失去了一個重要的外國顧問，並且把大量軍事管理上的難題帶到了他的面前。而這些都不得不涉及替代華爾充任常勝軍管帶問題的政治軍事策略。雖然英國人和法國人都提出了他們自己領導這支部隊的候選人，但是李鴻章堅定主張，如果外國人要帶領中國軍隊，他們必須像華爾那樣呈請成爲中國臣民，受中國節制。
華爾的得力助手白齊文看來是符合這樣的要求，他和華爾一樣，是一個勇敢的軍官，曾經要求成爲中國的臣民，娶了中國妻子，全心全意獻身於反太平軍的事業。不過和華爾不同的是，他性子魯莽暴躁，言行放肆，做事情不負責任，與其難以共事。1863年1月初，白齊文爲了常勝軍的餉給問題，在同中國當局連續爭吵幾個月以後。同楊坊有過一次特別嚴重的爭吵，他打了楊坊，並且奪走4萬元。此時，李鴻章立即要求將這個美國指揮官撤職，指責他搶奪、叛逆和不忠。
直到1864年2月常勝軍恢復戰鬥以後，在收復太平軍幾個主要據點中起了重大的作用，但是到5月，李鴻章清楚地意識到這支部隊已經走過了它的全盛時期，他因此匆忙之下作出了裁撤的計劃。在他看來，常勝軍過於“靡費”，也過於無能，而且更多的財政證明他們過分忠於“地方”，他相信淮軍是保衛江蘇省卓越的足以勝任的工具。
這一計劃讓赫德和上海英國提出非議，他們認爲這支中外合作的部隊不應當太早貿然做出解散的決定，而是常勝軍至少有一部分應作爲地方防衛力量和訓練項目而“永予保留”。隨後，在赫德、英國領事巴夏禮、戈登以及李鴻章等人進過了廣泛卻很艱難的談判之後，各方達成了折衷的方案：常勝軍中大約有一千人保留下來，由戈登指揮，作爲上海西南約25英里小鎮鳳凰山的外國訓練項目的核心。
總之，在李鴻章對常勝軍的態度上來看，他前期先是利用常勝軍攻打太平軍，後期由於常勝軍領導的去世，其作用大大降低，李鴻章對其的態度轉爲解散，所以常勝軍只是李鴻章的一個棋子罷了。
