1895年，中國在甲午戰爭中失敗，被迫割讓臺灣島和澎湖列島，南海的東北大門洞開，日本成爲清末中國在南海的最大威脅。日本打出“殖產興業”的旗號，想攫取南海的資源。
1901年夏，日本商人西澤吉次遇風漂到東沙羣島中最大島嶼——東沙島，他看到島上鳥糞資源豐富，就取標本到臺灣基隆化驗，結果發現東沙島上存在豐富的磷礦資源。次年，西澤吉次率人竄入東沙島，竊取磷肥回臺灣出售，引起清政府的注意。同年，清政府派官員到東沙島巡查，並豎紀念碑作爲主權標誌。
1906年以後，日本政府推動所謂“水產南進”，日本船隻“長風”號和“四國”號先後侵入東沙海域，驅趕中國漁民，搗毀中國的主權碑，拆毀東沙島上的廟宇。
喪心病狂的日本侵略者竟將島上百餘座中國居民的陵墓用鐵器掘開，挖出遺骸，焚化後推入水中。在銷燬中國人居住的痕跡之後，西澤吉次在島上懸掛日本旗，宣稱佔據“無主土地”，並擅自將島嶼命名爲“西澤島”。同年，日本漁船大舉南下，一直竄到南沙羣島，掠奪中國漁業資源。日本海軍也蠢蠢欲動，試圖爲日本商人和漁民的侵略活動“保駕護航”。據史料記載，1907年冬，“日本突由從臺灣方面開來軍艦一艘、商輪一艘，滿載軍火及日民，圖謀佔我東西沙島”，這遭到中國漁民的堅決抵抗，清政府聞訊後與日本交涉，迫使日本艦船退回。
清朝外務部獲悉日本的侵略行徑後，責令兩廣總督張人駿查明東沙情況，對日交涉，同時命令南洋大臣派出軍艦巡查。
張人駿奉令約見日本駐廣東領事賴川淺之進，該領事狡辯，稱若中國認爲該島爲轄境，須有地方書志，及該島應歸何官何營管轄的確切證據。此時，這位號稱中國通的領事，得知東沙島上的廟宇已拆，陵墓已毀，自以爲無可對證。他還自以爲是地認爲，中國的史書和地方誌，只詳細介紹陸地之事，對於海中島嶼暗礁一向極爲簡略，清政府不可能提交令人信服的中國管轄證據。在張人駿的努力下，清政府在短期內找到了證明東沙羣島屬於中國的歷史文獻，如王之春著《國朝柔遠記》、英國海軍海圖官局編《中國江海險要圖志》等和中文、英文的地圖。
時任兩廣總督張人駿
在外交鬥爭的同時，晚清時代艱難起步、屢敗屢戰的中國海軍，也勇敢擔當起保衛海疆的重任。曾在威海衛與日軍血戰的北洋水師管帶(艦長)薩鎮冰，此時已成長爲中國海軍的最高將領，擔任廣東水師提督，兼任南北洋海軍統領。
1908年，薩鎮冰派出飛鷹號兵艦和海關的艦隻兩次巡查東沙羣島。飛鷹號是19世紀90年代從德國購進的，時速高達30海里，是甲午戰後中國海軍的主力艦艇之一。該艦管帶黃鐘英等官兵走訪了尚在東沙海域堅持捕魚的中國漁民，發現廟宇雖被日本人拆毀，地基和石塊還能辨認，衆多漁民紛紛提供在此長期生產生活的證據，控訴日本侵略者的暴行。
最終，日本方面在確鑿的人證物證前啞口無言，1909年，被迫承認東沙島爲中國固有領土，侵佔該島的日本人撤離，將該島交還中國，並且賠償中國漁民的損失，補交侵佔期間中國損失的稅款。
在反抗日本侵佔東沙的鬥爭中，中國漁民堅持在第一線，清朝中央外交機構、地方政府和海軍密切配合，進行了有勇有謀、有理有節的鬥爭，取得了晚清反侵略史上罕見的全面勝利。
此後，清朝更加重視對南海漁業資源和中國漁民的保護，水師提督李準和副將吳敬榮、劉義寬等，率兵170人分乘“伏波”、“深航”諸艦，巡視西沙和南沙羣島並於永興島升旗鳴炮，公告中外，重申南海諸島爲中國領土。清朝政府本來打算在南海諸島進一步加強守備，建立無線電臺，後由於辛亥革命爆發未能實現。
