牛莊，地處海城以西25公里，西通錦州、山海關，南聯營口、田莊臺，爲營口、田莊臺的後路，是清軍運送糧餉兵械的要道，適逢“各軍糧臺輜重盡在牛莊”。先是魏光燾統武威軍6營3哨駐三臺子，徐邦道統拱衛軍11營駐柳公屯，李光久統老湘軍5營駐三臺子中陽堡，劉樹元統親軍6營駐四臺子、榆樹堡、大堡壘，“皆以牛莊爲後路，僅駐武威一營”。3月2日，諸將商定於明日進攻海城。正籌劃間，忽接探報：“賊馬隊七十、步隊數千，繞出耿莊子、古城子而去，恐襲牛莊也。”乍聽之下，衆皆不信，疑爲奸細蠱惑，一致堅信日軍指向遼陽方面，“而不慮其抄襲我後者”。而駐牛莊的餘壽武營直至戰前一日尚不知大敵當前，經偵察纔敢確認。魏光燾聞訊日軍由鞍山站以大股騎兵乘虛直搗清軍後路牛莊時，才率軍於3日晨8時折回，其他各軍仍遠在海城前線。該鎮無城牆可守，周圍一片平地，清軍聚屯莊內。魏光燾深知惡戰降至，擇市街的入口處緊急搶築一尺厚的土牆，以此爲一線工事，並在鎮內利用高大官衙和民房爲防禦掩體，在其院內四周牆壁上開鑿槍眼，以此作節節禦敵的復城，爲進而巷戰之備。魏光燾將僅有的兵力佈置爲：左、右、中三營防守西北面;前、後兩營防守東北面;自率大營炮隊、馬隊及衛隊防守中路。
3月3日7時，第5師團自湯崗子出發，奧保鞏命大島義昌爲前衛司令官先行，自率師團主力繼後。前衛以混成第9旅團第21聯隊第1、3大隊及騎兵1小隊、山炮第2大隊第4中隊。師團主力爲：第10旅團第22聯隊第1、2大隊，混成第9旅團第21聯隊第2大隊，第11聯隊第1大隊及炮兵第5聯隊山炮第1大隊、野炮中隊，工兵第5大隊第1中隊。並令騎兵第5大隊獨立執行遠距離搜索任務。第5師團當晚進至牛莊以東45裏的崔家莊附近宿營。
與此同時，第3師團也向牛莊方向進發。大迫尚敏率第5旅團爲前衛，從金家臺開拔，經普賴屯到達牛莊以東20餘里的古城子，原作爲前衛的大島久直所率第6旅團改隸於師團主力，由將軍屯進至牛莊以東約30裏的耿家莊子，第6旅團第19聯隊第3大隊爲右翼支隊，在師團主力之右側行進。另以第7聯隊第2大隊爲鞍山站支隊，第19聯隊第2大隊爲賓山子支隊，共同對遼陽方向實行警戒。
3月3日，爲鼓舞士氣，第1軍司令官野津道貫特許各部戰前“自由徵集物資”和“儘可能地犒勞士兵”。實則暗許任意姦淫擄掠。並訓誡各部“儘可能避免正面進攻，努力進逼敵軍側面”。根據其佈置，第5師團自紫方屯沿大道前進，進逼牛莊的東北面;第3師團離開大道，繞到牛莊以北，進逼牛莊西北面，並切斷守軍向營口的退路。其中，奧保鞏命第10旅團22聯隊攻牛莊北面;大島義昌旅團主力攻牛莊東北面;桂太郎命第5旅團18聯隊爲前衛，攻牛莊北面;大島久直旅團主力攻牛莊西北面。4日7時，大迫尚敏指揮下的佐藤聯隊從古城子出發，於牛莊以北約3裏的邢家窩坊與耿莊子開來的第3師團主力會合。9時，桂太郎令大迫尚敏部從正北方，大島久直部從西方進攻牛莊。
8時15分，步兵第18聯隊第3大隊尖兵搶佔邢家窩坊要地，隨即掩護野炮兵第3聯隊(欠4箇中隊)佔領邢家窩坊至牛莊北口的凹道兩側陣地，將6匹馬牽引的野炮12門、馬馱之山炮12門各排列在兩側3尺高地，向牛莊密施以排炮猛轟。9時30分，魏光燾令炮兵予以還擊，並利用城北口約40米處的民舍修補土牆作爲堡壘設伏，誘敵深入。在炮火掩護下，大迫尚敏督率第18聯隊長佐藤正所部成散兵線，以牛島少佐率第3大隊爲前鋒從凹道中間發起衝鋒。10時30分，18聯隊主力聯合並進。10時40分，守軍將第3大隊一線的第9、12中隊“吸引至最佳射擊距離”100米時，“俄據民家土壁亂髮小銃，極爲劇烈”。此刻，日軍處於“平坦開闊地面，毫無地形地物隱蔽”的被動挨打境地，“死傷非鮮”。“逼近城北端之家屋”，清軍繼續用猛烈炮火攻擊，聯隊護旗兵一死三傷，佐藤正手腕被槍彈所中，自以巾裹傷，“令兵士唱軍歌而進，勢頗壯烈，兵士爭先突出。清兵不屈，頻射大小炮彈，片傷佐藤大佐左膝關節，門司(和太郎)少佐代率其大隊。”聯隊長佐藤正兩次受創，被擡下戰場，中隊長新保正大尉重傷斃命，步兵中尉巖本績、川口金之助、兒玉象一郎等以下負傷100餘人，使所向無敵的開路先鋒第18聯隊遭遇甲午戰爭以來前所未有的損失，銳氣大挫。
大迫尚敏見前鋒作戰不利，便令第2大隊援擊，戰鬥更趨激烈。11時10分，第8中隊在炮火掩護下，攻佔一線獨立家屋據點，中島少佐率第9、12中隊投入右翼。11時20分，第6中隊加強第3大隊右翼，展開攻勢，奪獲山炮2門，第7、8中隊各一部攻取耶穌教堂。7分鐘後，第3大隊各中隊突入我陣地，雙方近戰肉搏。據魏光燾報稱：“左、右營接戰，中營繼之，賊以排槍炸炮抵死抗拒，彈如雨點;我軍以劈山炮洋槍對擊。土卒中彈者如牆而倒。前虛後進，賤之爲我擊斃者尤衆。故傷亡雖多，士氣仍壯，縱橫蕩決，力不稍疲。左營餘總兵福章中傷坐地，猶持刀督戰，隨復炮中要害陣亡。右營沈提督寶堂兩臂中彈皆折，幫帶陳參將勝友戰死。中營總哨弁亦傷。土卒傷亡猶衆。”“忽賊另支圍我駐紮之所，前後受敵。本前司(魏光燾自稱)親督死拒，無奈賊黨愈積愈厚，伏首鑽進，炮雨橫飛。大營肖總兵有元中炮傷重，左哨、右哨、正(哨)、副哨弁登時陣亡，衛隊哨弁重傷，親兵傷亡過半，萬難力遏，突圍且戰且退。”在魏光燾的指揮下，武威軍“頑強抵抗，接戰格鬥，”終因衆寡懸殊，傷亡殆盡。戰至11時30分，第3大隊第9中隊一部及第10中隊突入城北神社，隨即大隊主力分路突進，城北清軍反擊失利，被迫退入街區巷繼續抵抗。13時，石田玉珍少佐率擔任預備隊的第18聯隊第1大隊第2、4中隊投入左翼，擴大戰果。
10時20分，牛莊西面的第3師團第6旅團以第19聯隊第1大隊爲預備隊，以3個步兵大隊擔任突擊。10時40分，第7聯隊第1大隊爲右翼，第3大隊爲左翼，從邢家窩坊以西3裏的二軒家向牛莊進發，趁雙方主力激戰正北及東北方而無暇西顧之際，以神速襲佔天主教堂爲目標。第19聯隊第3大隊隨右翼跟進，騎兵第3大隊負責側後警戒。12時20分，第1大隊從西北突入，第3大隊攻入西門，林太一郎少佐率第19聯隊第3大隊從西北大迂迴疾馳到牛莊西南，射擊從此突圍的守軍，並扼守至營口及田莊臺的大道。12時30分，粟飯原大佐率第19聯隊第1大隊及工兵大隊進抵牛莊西北端，作隨時應援之備。
3月4日，第5師團按預定計劃繼續向牛莊靠近。進攻序列是：大島義昌所率前衛隊不變，原屬主力的步兵第21聯隊山口少佐的第2大隊(欠第6中隊)和大江大尉的野炮中隊、平城中尉的騎兵小隊組成左翼隊，向西迂迴到牛莊至營口大道上，掩護側翼及搜索警戒，並切斷牛莊清軍的退路。11時10分，配屬前衛隊的山炮中隊搶佔紫方屯西北端，炮擊清軍的突出陣地。隨即師團部進駐牛莊以東1公里的紫方屯，就近指揮。11時20分，步兵第21聯隊在炮火掩護下向牛莊東北方陣地進攻，奧山義章少佐的第3大隊(欠第10中隊)爲第一線。武威軍前、後兩營士兵利用數百米的開闊地，在城區內設牆堡，或在房屋的牆壁上挖槍眼，“伏河溝間，恃土牆爲障，誘賊及近，”暫不還擊。待敵近前，百槍齊射，6門加特林速射炮猛烈開火。剎那間，處於一線開闊地帶的奧山大隊563人，無隱蔽之處，戰死達19人，傷68人，士氣爲之沮喪。大島義昌命森祗敬少佐率第1大隊(欠第4中隊及第1中隊的2個小隊)及第10中隊進攻紫方屯西端。大島及步兵第21聯隊長武田秀山大佐親自“奔馳於各戰鬥部隊之間，激勵土卒”。清軍“伏河溝間，恃土牆爲障誘賊及近，”再行還擊。11時40分，第3大隊突破一線陣地。此刻，日軍的山炮中隊、野炮中隊在紫方屯西南端佔領陣地。11時55分，師團預備隊渡邊大隊(欠第5、8中隊)、竹田工兵中隊，及軍總預備隊的仙渡大隊也相繼加入該線作戰。一位目睹這場激戰的日本隨軍記者寫道：“此時，槍炮聲如百雷齊鳴，萬獅齊吼，震耳欲聾。數百雲朵在牛莊上空飄遊，是我軍發射的榴霰彈在空中爆炸，煙霞浮動於楊柳深處，是敵軍發炮後的餘煙”，“彈丸紛飛如雨，硝煙暗澹蔽空”，戰鬥異常激烈。據統計，僅野戰炮第5聯隊就發射榴彈17發、榴霰彈213發。但清軍毫不稍屈，“環擊斃賊甚夥”，誓死擋住了攻勢。
奧保鞏見進攻受阻，急令田唯一少佐率步兵第22聯隊第1大隊直撲清軍右翼。12時15分，聯隊長富岡三造中佐率主力繼進，意圖從東關木橋突破。橋東地勢平坦，毫無掩遮。“彈丸雨下，炮聲如雷，硝煙冥濛，咫尺不辨。忽有一彈飛穿今田少佐咽喉，少佐死之。”今田唯一曾參加平壤之役和進攻摩天嶺的戰鬥，素以“勇敢”著稱，即將晉升中佐，終而喪命。大隊由佐佐木大尉指揮。富岡三造“大怒，欲以復仇，益鼓舞諸兵突進”。清軍才兩營，剛頂住左翼的進攻，又遭右翼的猛撲，左支右絀，難以招架。此時，日軍“勢如奔潮”，“麇聚螺集”，清軍“馬步肉搏鏖戰”。“前營龍總兵恩思項頭及足重傷，扶送附近民房躺臥，所部仍抵死拒戰。後營羅副將吉亮，傷頦及足，幫帶魏遊擊極富陣亡。羅副將督戰不休，裹入賊圍，仍於槍林彈雨中衝出戰地。”戰至12時30分，日軍第22聯隊以戰死9人，傷39人的代價，第1大隊第1、2中隊終於越過木橋，第3、4中隊從橋東北方攻入街區。武威軍前、後兩營退人市街後，繼續據民房堅守。至此，在兩個師團的合力猛攻下，清軍牛莊外圍全被攻破，陣地具失，戰鬥轉入街區。稍後，第5師團長奧保鞏在參謀、副官的簇擁保護下，來到牛莊城外的獨立家屋，師團本部暫時駐此。
在牛莊城東郊戰鬥中，第5師團第21聯隊奪得清軍加特林炮6門、第22聯隊奪得山炮2門，至此守軍僅有的少量火炮盡失。
午後，第3師團第5旅團從牛莊城東北和北面，混成第6旅團從西北三個方向;第5師團混成第9旅團從東北和步兵第22聯隊由東面，四路攻入牛莊街市，雙方展開了激烈巷戰。混戰中清軍退路被切斷，失去統一指揮，被優勢敵軍分割包圍成幾十個戰鬥集團，多則幾百人，少則數十人，各自爲戰，進行分散抵抗。日軍也劃分成中隊、小隊爲單位的幾十股，與清軍混戰，並以工兵逐屋穿牆破進。“城內到處發生激烈的巷戰，……各隊相互錯綜，戰況複雜”。
1時30分，第22聯隊第3中隊及第1中隊1小隊，首先從北面衝入鎮內，清軍50餘人據一民房“抵抗甚爲頑固”，最後全部殉國。日軍即以左右迂迴，繼續搜索。有百餘名清軍在一大院內，利用外圍石牆作誓死堅守，日軍多次進攻均被擊退，且“死傷頗多”。日軍無計可施，15時令工兵用100多公斤的地雷炸藥，分三次埋在圍牆下，用炸藥引爆地雷，將圍牆轟塌，大久保中尉率第3中隊衝入院內。此前，清軍子彈用盡，用牆上的磚石打擊敵人，士氣不妥。同時，第6旅團分兵繞至牛莊城西南部進攻，營官黃某率部分清軍在當鋪內守禦抵抗。該當鋪系清軍火藥庫，外面圍砌厚實的磚牆，“宏偉堅固，如一城郭，除西北一門以外，其他各門均以磚石堵塞”。大島久直令步兵第7聯隊2個大隊圍攻，“欲破其門，清兵以銃狙擊，且門壁堅牢不能破。適有放火西面者，內藤(新一郎)大隊亦燒其旁近家屋，猛火焰焰起於二方，清兵尚無屈色。日軍即欲穿外圍牆壁以入其內，清兵叢射益力，不能進。因又穿一大孔於家屋外壁，開路而入，清兵已退據內壁，內壁亦堅固，不可輒破。”16時10分，第1大隊長派2名當地人入內勸降未果，30分鐘後再投擲勸降書，得到的卻是“猛烈射擊”。17時15分，見最後的勸降未能奏效，便在東西兩側民房縱火。清軍在熊熊烈火和滾滾濃煙中堅持抵抗，“毫不少屈”。18時10分，聯隊長三好成行大佐見久攻不破，即調兩門山炮轟擊彈藥庫，致其起火爆炸，子彈橫飛，守庫清軍大部犧牲。隨後，日軍攻入街區十字路口處，遭遇扼守路口西南、東南二角建築物的清軍猛烈交叉射擊，戰鬥呈膠着狀態，敵我混雜，異常激烈。
第5師團在侵佔牛莊城東北諸外圍後，繼續向街區進犯。混成第9旅團第21聯隊長武田大佐督率第1、3大隊，經兩個多小時的反覆衝殺，才奪取城東一線陣地。但清軍“仍然據民房死守”，日軍屢攻不克。經多次衝鋒，才奪取數處據點。15時40分，守軍在敵衆我寡的不利形勢下，退守太平橋以東的郅興隆燒鍋和牛莊衙門內，拼死抵抗，致使日軍死傷累累，中途不得不停止進攻。
3月4日16時許，正在魏光燾所部武威軍與日軍戰至“鼓衰力竭之際”，湘軍第一悍將李續賓之子、道員李光久率老湘軍五營2400人從海城前線馳援牛莊。是日晨，李光久率部自三臺子西行。晏安瀾聞訊，迎於中途。李光久約晏安瀾同救牛莊，勸曰：“海城已無克復期，胡爲鬱郁久居此?”晏安瀾答曰：“我去，則諸營散，大局不堪問。公能保牛莊，我尚思下海城也。”由於諸將意見不一，李光久只得獨自率軍趕往牛莊。“士卒疾行二十餘里，至牛莊，未及造飯，已被圍。”至是，李光久始知牛莊外圍防線被敵衝破，武威軍正退守市街。當即分兵三路，“以前左營爲右路，向關帝廟等處攻入，以右後營爲左路，向海神廟等處攻入，以中營及馬步小隊爲中路，向牛莊土城一帶攻入。”老湘軍“一進街口，即與該賊巷戰，斃賊無算，業已敗出街外，乃前賊敗退，後賊紛來，槍炮雨密。賊又從兩旁擁出，紛紛擊犯，勇與賊幾莫能辨。血戰竟日，各街口被賊縱火，斷我出路。”後營管帶提督譚桂林沖至海神廟前，忽遇大股日軍自教堂竄出，“頭中炮子，登時陣亡”。左營管帶提督賀長髮傷腹甚重。前營幫帶提督鄧敬財“督隊力戰，胸膛中炮陣亡”。中營遊擊王得志“右手傷重，伏往復力戰，旋即陣亡”。中營哨弁鄧漢南中炮斷掌，右哨哨弁周國堂、後營哨弁胡錫吉、都司鄧翔麟、左營幫帶提督陽厚德、都司殷成譜身受重傷，下落不明。“有一營官受傷不能戰，據地而坐，揮兵直前，竟斬日軍官一人”。大批當地的文職官員與湘軍並肩守土抗戰，知縣黃光楚、雲騎尉謝克鬆、文童鄧汪匯、劉必蛟等“各率親兵往來策應，俱力戰陣亡”，營務委員知縣李續祜督戰受重傷。
至日落前，日軍重點進攻牛莊城東北郅興隆燒鍋和城西牛莊衙門。堅守燒鍋的清軍200多人據險拼死抵抗，施放排槍，表現“最頑強，無屈色”。日軍以第3師團第5旅團第18聯隊、第5師團第10旅團第22聯隊和混成第9旅團第21聯隊之各一部及工兵中隊將其圍困。第5師團長奧保鞏親臨指揮，鑑於屢屢衝鋒受挫，“遂令各部停止射擊，由工兵中隊破壞其牆壁。”17時，工兵中隊長竹田禎之助大尉率第3小隊前去爆破，用炸藥將厚0.6米、高3.5米的牆壁炸開一大豁口。但面對猛烈攻勢，清軍仍誓死堅守，使敵不能前進一步。日軍不得不組織再次爆破，第22聯隊所屬第3、4中隊首先衝入郅興隆燒鍋，才告佔領。第22聯隊第2大隊渡邊述少佐率2箇中隊雖於14時20分突破太平橋，但在樑家園附近陷入苦戰2小時，草木皆兵，請求調2箇中隊援擊。第22聯隊半個大隊隔木頭橋與牛莊衙門的守軍對射，富岡中佐請求工兵小隊增援。如此遂屋爭奪，日軍每佔領一座建築物，都要付出沉重的代價。
雙方戰至日落，第1軍提前宣佈佔領牛莊，日軍停止進攻。軍司令部進抵紫方屯以南村落宿營。18時，第3師團長桂太郎命第5旅團一部護衛野戰醫院，主力警戒牛莊北部;第6旅團警戒牛莊西南部，控制至營口及田莊臺的大道;以第19聯隊第1大隊負責警戒牛莊西北，上述各部嚴防守軍突圍，並嚴格清剿仍據守的殘敵。18時30分，第5師團長奧保鞏劃定了夜間警戒區域：前哨線在遼河左岸;第21聯隊以太平橋爲右翼，以木頭橋爲左翼;第22聯隊以木頭橋爲右翼，左至柳屯橋，並對這兩個區域實行警戒。並嚴令：“除萬不得已，不得進行夜間射擊”。入夜，戰鬥主要集中在第3師團侵佔的地域內進行。儘管師團長桂太郎令“夜間攻擊只准使用刺刀”，但槍炮聲依然不斷。拼死據守的清軍終因敵衆我寡，城區東北及西南的主要街道，均先後陷落。混成第6旅團長大島久直妄圖全殲守軍，在牛莊城西面指揮第7聯隊突進，沿大洋河一帶攻入城區，一部沿大道向北返，一部向南過橋與在通往營口大道上扼守清軍退路的第5師團之山口大隊相接，完成合圍。
22時，魏光燾、李光久率部血戰至“子彈俱盡“，方放棄固守的牛莊衙門，由牛莊城西分散向田臺莊突圍而出，途中遭到混成第6旅團截擊，雙方戰鬥激烈，清軍傷亡40餘人。李光久率殘部300人仍在距牛莊15公里處組織伏擊戰。是時，日軍急追，李光久令軍士曰：“駐此再戰!”軍士曰：“死亡已多，僅數百人，尚可戰乎?”李曰：“可!坍牆甚多，吾列幟而俟，藏擡槍於短牆後，兵士少，以槍管前架短牆，後以兩人持之，熱藥尚可排擊。彼不知我衆寡，地勢甚便，不可失也。若戰勝，彼必不追!不然盡力擒矣!”衆以爲然。日兵追至中伏，乃退。
日軍防微杜漸，在各街口要道縱火，切斷清軍退路，“我軍肝腦塗地，慘死萬狀”。夜間，巷戰不息，尚未突出的清軍仍在繼續戰鬥，到處槍聲不絕。3月5日拂曉，幾十名清軍在巷戰中曾一度攻入木頭橋頭，對日軍哨兵射擊，並從數處牆壁後冷槍襲敵，迫使第5師團長奧保鞏急令各部回援師團部。稍後，第1軍司令官野津道貫也率軍部與第5師團司令部會合。戰至清晨，殘存守軍傷亡殆盡，牛莊失守。
日軍佔領牛莊後，“執劍挨戶搜查，殺人無算。”一日本隨軍記者描述當時的景象說：“路旁伏屍相枕”，許多民房門前，“屍積成山，屍山之間流出幾條渾濁的血河”，“走進門裏院內也堆滿了屍體”，牛莊淪爲日寇殘殺的血泊之中。據日方調查，在牛莊市街的2100餘名死者中，三分之一是無辜平民。日軍濫殺無辜，曾受到一些正直西方人士的鄙夷，指責其“如此縱殺，殊爲殘酷”。
