只要旅順繼續掌握在俄國手中，它的艦隊就隨時可威脅在“南滿”登陸的日軍的海上交通線。不佔領旅順，日軍無法在東北進行大規模的地面作戰。因此，在將近1個月的時間內，日方積極準備對旅順的第2次進攻，專門編組了執行這項任務的第3軍(第2軍已奉命北上)，任命乃木希典爲軍長。此人甲午戰爭時擔任旅長，曾一舉攻克旅順。第3軍所配備的火炮大部分是攻城炮。
與此同時，尼古拉二世也指示遠東俄國陸軍總司令庫羅帕特金髮動攻勢，責成他“對旅順的命運負責”。彼得堡警告庫羅帕特金說：如丟掉旅順，“將是新的最沉重的打擊，不僅有損於俄國在遠東的政治軍事威望，而且有損於在近東、中亞和歐洲的政治軍事威望。無疑，俄國的敵人將利用這一點儘可能使我們爲難，而朋友則將把俄國視爲軟弱的同盟者而加以拋棄。”在沙皇政府的壓力下，庫羅帕特金勉強派出1個軍(施塔克爾堡指揮的西伯利亞第1軍)南下支援旅順。1904年6月14～15日，該軍在得利寺、瓦房店地區與日第2軍遭遇，俄軍一敗塗地，狼狽退卻。從此旅順與東北俄軍主力的聯繫被完全切斷。日軍爲進攻旅順，必須確保第3軍後方的安全，使它不致遭到集結於遼陽以南地區俄軍的打擊。因此，1904年6月下旬，第1、第2、第4(從大孤山登陸)3個軍開始向遼陽方向移動，企圖牽制俄軍於該地。1904年6月26日起，日軍恢復了遼東半島上的軍事行動。但佔領了橫山等制高點以後，又轉入防禦，等待增援。1個月後，日第3軍恢復對旅順的攻勢。此時，防守旅順外圍各隘口的俄軍第44、第7兩個師，兵力約1.6萬人，火炮70門，另有戰艦支援。但在斯捷塞爾指揮下，節節敗退。1904年7月30日，俄軍放棄旅順外圍最後一道天然屏障——狼山，福克師在該處一共只堅守了半天。當日，俄軍開始撤進要塞。甚至連日本人也沒有估計到俄軍退卻如此之快。
從戰爭爆發到1904年7月底近半年中，旅順要塞的防禦有所加強。守軍增到4萬人，炮646門，機槍62挺。海軍有戰艦38艘。但物資儲備不足以應付長期圍困。例如炮彈，平均每門炮只有400發。防禦工事不堅固，僞裝不嚴密。特別是指揮無能。負責旅順防務的斯捷塞爾是個常敗將軍，他從金州失守開始，就主張放棄旅順外圍一切要地，退入要塞，等待增援。甚至庫羅帕特金也感到此人不宜繼續擔任指揮，曾命令他將指揮權交給斯米爾諾夫將軍。但斯捷塞爾對斯米爾諾夫隱瞞了電報，以致後者直到戰爭結束以後才知道對自己的“任命”。艦隊司令威特赫夫特也強調敵強己弱，拒絕出海，始終龜縮在港內。
包圍旅順的日軍兵力達6萬人，火炮400門(其中攻城炮198門)，機槍72挺。同時，日方以艦隊(52艘戰艦)封鎖了港口。
1904年8月7日，日軍發動進攻。首次攻佔要塞外圍前沿制高點——大孤山和小孤山。日軍以12個營對俄軍3個營。雙方爲爭奪這兩個戰術要點激戰了4天。最後高地落入日軍之手。1904年8月10日，俄國艦隊奉阿列克塞耶夫之命，試圖突破封鎖，開往海參崴。但由於威特赫夫特准備不周，指揮失當，與日艦隊遭遇，當場戰死，其餘艦隻被迫縮回基地;部分艦隻逃到中立國港口，被解除武裝(日俄黃海海戰)。1904年8月12日，俄海參崴分艦隊在蔚山海戰中被日軍上村彥之丞的第二艦隊摧毀，1904年8月19日，日軍對要塞發動首次強攻，晝夜突擊，雙方激戰到8月24日。日軍奪佔了一些前沿工事，但傷亡約2萬人(佔總兵力1/3)，士氣低落，自傷者大有其人。俄軍也傷亡3500人。至此，日軍放棄了迅速攻佔旅順的打算，改取長圍久困之計
