據說，黃金榮在上海解放前夕，沒有隨同蔣介石去臺灣，原因有四：一是流氓具有極強的地方性。去了臺灣，人生地不熟，他也就無勢無力;二是他的財產大都是不動產。他曾向杜月笙商借20萬美元，以便逃亡之後作花費之用，杜月笙居然沒有答應，撇下他去了香港;三是他年已八旬，多病纏身，不像杜月笙小他 20歲;四是他知道蔣介石大勢已去，已跟共產黨私下有所接觸。黃金榮自己聲稱:“我已經是快進棺材的人了，我一生在上海，屍骨不想拋在外鄉，死在外地。”
上海解放之初，懾於強大的政治壓力，黃金榮曾把自己手下400多名幫會頭目的名單，交給了上海地下黨。所以解放後，青幫未敢作亂。當時上海這裏接管，那裏接管，黃金榮卻安然住在上海家中，沒有碰他一根毫毛。
1951年初，聲勢浩大的鎮壓反革命運動開始了。一封封控訴信、檢舉信，寄到了上海市人民政府，堅決要求鎮壓青幫頭子黃金榮。
上海市人民政府召見黃金榮，向他說明既往政策不變，但要求寫一份悔過書公開登報，向人民認罪。
1951 年5 月7日，黃金榮口授，他的屬下龔天健捉刀，寫下《悔過書》，送交上海市政府。5 月20 日，上海《文匯報》和《新聞報》上發表了黃金榮《悔過書》，題目改爲《黃金榮自白書》。
《黃金榮自白書》如下：
我小時候在私塾讀書;十七歲到城隍廟姨夫開的裱畫店裏學生意。二十歲師滿，在南門城內一家裱畫店裏做生意，五年後考進前法租界巡捕房做包打聽。那時候，覺得做裱畫司務沒有出息，做包打聽有出息。現在想來，做包打聽成爲我罪惡生活的開始。
我被派到大自鳴鐘巡捕房做事，那年我二十六歲，後升探長，到五十歲時升督察長，六十歲退休。這長長的三十四年，我是一直在執行法帝國主義的命令，成爲法帝國主義的工具，來統治壓迫人民。譬如說私賣煙土，開設賭場，危害了多少人民，而我不去設法將其阻止，反而從中取利，實在真不應該。
蔣介石是虞洽卿介紹給我認識的。國民黨北伐軍到了上海，有一天，張嘯林來看我，他們談起組織共進會，因爲我是法租界巡捕房的督察長，叫我參加，我也就參加了，就此犯一樁歷史上的大罪惡，說起來，真是無限的悔恨!後來，法租界的頭腦費沃利，命令禁止共進會在法租界活動，一方面張嘯林要利用共進會發展他們的幫會勢力，所以對我不滿意，我因爲職務的關係，就和他們鬧意見，從此與張嘯林避不見面，不久，我辭去法巡捕房職務，退在漕河涇了。我在法巡捕房許多年，當然有些勢力，有許多人拜我做先生，我也收了很多門徒，門徒又收門徒，人多口雜，就產生了在社會上橫行霸道、欺壓善良的行爲。我年紀大了，照顧不到，但無論如何，我是應該負放縱之責的，因而對於人民我是有罪的。
解放以後，我看到共產黨樣樣都好，人民政府是真正爲人民的政府。幾十年來被帝國主義軍閥國民黨統治下的上海，整個變了樣子，政府根絕了貪污，社會上沒有敲竹槓仗勢欺人的事情。我今年八十四歲，已經二十多年不問世事，但經過了這個翻天覆地的變化，看到了偉大的人民力量，再檢討自己六十歲以前的一切行爲，感到非常痛苦。一方面我對於人民政府對我的寬大，表示深深慚愧和感謝，一方面我願向人民坦白悔過。懇切檢討我的歷史錯誤。請求允許我立功贖罪。
我堅決擁護人民政府和共產黨，對於政府的一切政策法令，我一定切實執行。現在，正是嚴厲鎮壓反革命的時候，凡是我所能知道的門徒，或和我有關係的人，過去曾經參加反革命活動或做過壞事的，都應當立即向政府自首坦白，痛切承認自己的錯誤，請求政府和人民饒恕;凡是我的門徒或和我有關係的人，發現你們親友中有反革命分子要立即向政府檢舉，切勿徇情。從今以後，我們應當站在人民政府一邊，也是站在人民的一邊，洗清個人歷史上的污點，重新做人，各務正業，從事生產，不要再過以前遊手好閒，拐騙人，吃講茶乃至魚肉人民的罪惡生活。這樣，政府可能不咎既往，給我們寬大，否則我們自絕於人民，與人民爲敵，那受到最嚴厲的懲罰，是應該的了。
現在共產黨寬大爲懷，使我有重新做人的機會，在毛主席旗幟下，學習革命思想，徹底剷除帝國主義的封建思想意識，再不被反動派利用，做爲人民服務的人。
最後，我謹向上海市人民政府和上海人民立誓，我因爲年紀大了(今年八十四歲)，有許多事已經記憶不清。話也許說得不適當，但是我的懺悔慚愧與感激的心，是真誠的!是絕不虛假的。
黃金榮的這份自白書對上海的流氓們起到了震懾作用。爲了表示痛改前非的決心，黃金榮開始在“大世界”門前掃地。他掃地的照片見報之後，產生極大的震憾，尤其是諸多幫派頭目，看到黃金榮這樣的流氓大亨都威風掃地，低頭認罪，也就紛紛向人民政府交代罪行。
1953 年6 月20 日，黃金榮在上海病故，終年86 歲。上海灘另一個流氓大頭目、比他小20歲的杜月笙，反而先於他，在1951 年病故於香港。
