1937年12月7日日軍完成對南京的戰略包圍，開始縮小包圍圈，向內進攻。經過4天激戰，守軍的防線一再後移，有效阻擊的可能性變得越來越小，當然可能還是有一些零星的局部戰鬥是存在的，有的也還很激烈，但整體而言已經無法抵擋了。守軍最高指揮官唐生智將軍在12月11日晚間接到蔣介石親自打來的電話：“如情勢不能久持時，可相機撤退，以圖整理而期反攻。”
1937年12月12日17時，衛戍司令部召集師以上將領開會，佈置撤退行動。唐生智首先簡要地說明當前戰況，詢問大家是否還能繼續堅守。與會將領無一人發言，這些將領心裏可能會說：“早就看出不能堅守，是你唐司令要誓死保衛南京，現在到問我們能不能守住，誰還敢說誓死之類的大話呢。”唐生智隨後出示蔣介石命守軍相機撤退的電令，即由參謀長周斕分發了參謀處已油印好的撤退命令及突圍計劃。
衛戍司令部突圍計劃的基本精神是大部由正面突圍，一部隨司令部由下關渡江。但在書面命令分發後，唐生智又下達了口頭指示，規定第87師、第88師、第74軍及教導總隊“如不能全部突圍，有輪渡時可過江，向滁州集結”。這就大大降低了命令的嚴肅性，也爲不執行命令製造了藉口，以致計劃中規定的由正面突圍的部隊，除廣東部隊第66軍及第83軍之大部按命令實施突圍外，其餘各軍、師均未按命令執行。有口頭指示爲依據的部隊，必然一起擁向敵人尚未到達的下關，以便迅速、安全地渡江北撤;許多未接到撤退命令的部隊因發現友軍撤退而撤退。雖接到命令而並不知道撤退計劃詳情的旅、團長們也都認爲上級既然要軍隊撤退，在下關必然已準備好大量渡江工具，因而亦皆擁向下關。
自行決定由下關渡江的軍、師長大多未按命令規定的時間開始撤退，而是在散會後立即部署部隊撤退。有的單位在接到命令前即已撤走。如衛戍司令部第2軍團負責固守烏龍山要塞以掩護其他部隊撤退和突圍，應最後撤退，但徐源泉於12日下午即率其第41師和第48師從周家沙和黃泥蕩碼頭乘坐其預先控制於該處的民船最早渡至江北，經安徽去江西整頓。烏龍山要塞部隊在徐源泉部撤走後，也於當晚毀炮撤去江北。有的將領只向所屬部隊打撤退電話，或回去安排一下撤退事宜就脫離部隊，先行到達下關，隨同衛戍司令部及第36師乘渡船先到江北。如第71軍軍長王敬久、該軍第87師師長沈發藻等根本未回指揮所;教導總隊隊長桂永清回到富貴山地下室指揮所後告知幕僚撤退任務，即留參謀長邱清泉處理文件等，自己單獨先去下關;其第2旅旅長鬍啓儒得知撤退消息較早，不等會議結束，即以奉命去下關與第36師聯繫爲由，電話通知其第3團團長代行旅長職責，獨自先去下關。
由於城中各部隊多沿中山路向下關撤退，而挹江門左右兩門洞已 經堵塞，僅中間一門可以通行，各部爭先掄過，互不相讓，不少人因擠倒而被踩死。如教導總隊第1旅第2團團長謝承瑞，在光華門陣地上曾英勇地抗擊日軍多次衝擊，卻在挹江門門洞內被擁擠的人羣踩死。有的將領，如第83軍第156師師長李江見城門無法擠過，就從門東側用綁腿布懸吊下城出走。
下關情況更爲混亂，各部隊均已失去掌握，各自爭先搶渡。由於船少人多，有的船因超載而沉沒。大部官兵無船可乘，紛紛拆取門板等物製造木筏渡江，其中有些人因水勢洶涌、不善駕馭而喪生。
因烏龍山要塞守軍撤走，原停泊於草鞋峽、三臺洞(燕子磯南)的“文天祥”魚雷快艇中隊也於12日夜馳去大通，12月13日拂曉，日軍山田支隊未經戰鬥即佔領了烏龍山;日海軍艦艇通過封鎖線到達下關江面，日軍第16師團一部亦乘舟艇進至八卦洲附近江面。大量正在渡江的中國軍隊官兵被日海軍及第16師團的火力和艦艇的衝撞所殺傷。憲兵副司令蕭山令即死於半渡之中。與此同時，日軍各師已分由中山門、光華門、中華門、水西門等處進入南京城內;原在鎮江的天谷支隊已渡過長江，正向揚州前進中;國崎支隊已至江浦，正向浦口前進中。已渡至江北的中國軍隊沿津浦路向徐州方向撤退。
12月14日，根據中國大本營的指示，唐生智在臨淮關宣佈南京衛戍司令長官部撤銷，撤至江北的衛戍軍部隊改隸第三戰區。南京保衛戰基本結束。
