這幾天，微博首頁被這群韓國女生的求助洗版了。
先給不了解情況的朋友，捋一下來龍去脈。
8月初，有韓國網友驚訝地發現「N號房」捲土重來了。
在Telegram上，一個通過AI Deep fake（深度偽造）製作、傳播色情圖像的聊天室聚集了20多萬男性受眾。
他們偷拍身邊的女性，把她們的臉或軀體合成到H片裡。
再把這些淫穢圖像傳到群組，找兄弟們一起品鑑、意淫。
被deep fake的女性，有女兵、女教師、女護士、女大學生，還有未成年的小女孩。
而犯罪者大多是青少年。
志願者臥底發現，幾乎每所學校都有一個秘密的男性聊天室。
某些群組成員還要求入伙的新人必須提交自家女性家庭成員的全身照片，作為投名狀。
於是，一些男孩把偷拍神功用到了自己的姐妹，甚至媽媽身上。
更過份的人，趁著自己的妹妹睡覺，去掀了她的裙子。
這件事情在韓國造成了極其惡劣的影響。
500多所學校被牽扯其中，就連延世大學、首爾國立大學和高麗大學這種名校有師生參與其中。
年輕學生深愛這種深度偽造的「遊戲」。
他們並不覺得這是齷齪的犯罪行為，反而責怪舉報者小題大做，不懂幽默。
記者問他們為什麼要用熟人照片？
他們說：「這樣更真實。」
記者追問：「你們不怕被抓嗎？」
他們直接回懟：「只有傻瓜才會被被警察逮住。」
境外網站的隱蔽性讓他們有恃無恐，而這種心態讓韓國女性相當憤怒。所以一群韓國女生註冊微博，呼籲外國人關注韓國正在發生的事情。
這種下作的犯罪，不是應該找韓國總統、韓國警察處理嗎？
為啥跑來中國求救？
這是因為韓國女性對公權力失望透頂。
她們深知，無論是韓國警方，還是尹錫悅政府，都無法剷除這種惡劣且隱蔽的性剝削。
一方面，現在的韓國總統尹錫悅，本來就是靠著「反女權」言論被選上去的。另一方面，李勝利的所作所為只受到很輕的處罰。
知情人士透露，韓國青年（15-29歲）男性人口有430萬，而Deepfake Room的用戶有22萬。
也就是說，差不多20個男性里，就有一個「房中人」。
法不責眾。
警方處理案件只抓主謀，很難懲處每一個用戶。
雞賊的人趁機鑽漏洞跑路，躲避法律的制裁。
與此同時，考慮到事件的影響面實在太廣，就連韓媒都開始對這件醜聞做冷處理。
女士們直言：
「韓國女性沒有國家。」
「我們生活在一個無法有效懲罰或預防針對女性犯罪和暴力的社會中，失去了日常生活的安全感，仿佛生活在一個沒有國家的狀態中。這樣的社會還有存在的必要？」
除了中國，她們也去了其他國家的社交平台發帖求救，希望藉此得到全世界女性的聲援。
也希望國際輿論能向韓國政府施壓。
為什麼我們要關注這件事？
因為，被換臉的恐怖故事不僅會發生在韓國女性身上，還可能發生在我們每一個人身上。
沒有管制的deep fake可以輕鬆毀掉每個人的生活。
把女性的臉換到色情片上，顯然不止出現在韓國。中國、美國、歐洲，全世界的女性都遭遇過類似的事情。
2017年，有人在reddit上開了換臉版塊，專門和「志同道合」的網友一起，將女演員的臉龐深度偽造到色情影片上，受害者皆是知名女性藝人。
它甚至成了一門產業鏈。
有人收錢定製這些女明星的換臉淫穢視頻牟利。
這甚至不止和性有關。
我們不妨設想一些場景。
現在年輕人都在外工作，留下父母在老家，平時溝通全靠網絡一線牽，最常用的就是視頻通話。
要是這視頻被偽造了呢？
當父母遠在千里之外，突然接到你的求助電話，緊張不安地說自己遇到了麻煩，缺錢花，希望他們能幫幫你，父母會是什麼反應呢？
著急之下，他們除了先打錢還能做什麼呢？
你看，聯繫方式是平時的聯繫方式，視頻對面的人是他們熟悉的你，說話的聲音也沒有區別，他們除了擔心，又怎麼會懷疑你不是你呢？
畢竟父母對這些科技知之甚少，很難防備啊。
還有很多可能。
如果有不安好心的犯罪分子掌握了你的形象，以及更多的身份信息呢？
他們完全可以拿著你的身份去網戀，去裸聊，去當做殺豬盤的素材，去搞詐騙，去犯罪。
反正這些事現在都可以通過網絡來完成的，套上AI這個殼子，他就成了你啊。
而且這AI都可以做任何表情和動作了，直接解鎖什麼銀行卡的面部識別信息，恐怕也不在話下吧。
要是直接以你的名義去貸款，然後把錢捲走後，留下一屁股債。
你又該如何應對呢？
恐怕要等某天突然有人敲開大門來討債，才知道真相吧。
要是那些公眾人士被AI化就更麻煩了。
你看現在電視上那麼多明星代言賣貨直播的，好多人趨之若鶩，可萬一那些視頻背後不是本人，而是AI偽造出來的呢？
反正輸入什麼，AI就能說什麼。那某些三無產品啦金融產品啦，豈不是想讓誰站台就能讓誰站台，誰更有號召力就讓誰來代言。
主打一個無法無天。
搞不好還有人趁機打著某些公眾人物的旗號，去到處尋求合作，讓人家先交定金。
或者私下搞些傳銷傳教之類的違法活動。
反正這種大名鼎鼎的重要人物肯定是見不到面的，只有視頻讓大家溝通也很合理啊。
[page]誰知道剝開AI那層皮，裡頭到底是誰呢？
更糟糕的。
如果不法之徒掌握了某些重要人士的形象，他們完全可以躲在背後，以這些重要人士的身份去發言很多重要言論，來引導輿論，重塑規則。
感覺世界都要亂套了。
還可以多想一層。
萬一有人用魔法來對抗魔法呢？
比如故意露出破綻，讓人以為視頻是AI做出來的效果，好顯得自己是被陷害的無辜。
但其實，根本就是本人的千層套路？
而且，現在的技術肯定不是AI的巔峰，再這麼發展下去，搞不好還能結合全息，搞出那種肉眼都分辨不出來的效果，一個人眨眼就變另一個。
那時候，別說影像了，眼見都不一定為實。
我站在我媽面前，我媽可能還得和我對上八百個暗號，才能分辨出來我到底是我，還是騙子。
光是想想，就覺得更毛骨悚然了。
說這麼多，不是我危言聳聽，更沒有杞人憂天，現在國內外都已經有很多案例了。
有的僅僅依靠AI配音，就能大騙特騙。
美國CBS電視台做過一期節目，現場展示黑客通過克隆聲音來竊取信息的過程。
整個過程可謂是迅雷不及掩耳之勢。
僅用了5分鐘，對方就通過AI克隆的當事人的聲音，並且通過工具替換了手機來電顯示，從而成功騙過了身邊的人，獲取了相當多私人信息。
國內的「靳東」騙局也一直存在。
很多直播間循環播放著明星的視頻，再加上後期配音的旁邊，就吸引了很多阿姨的關注。
阿姨們聽到聲音誤以為這就是真的明星，沒想到都是騙子利用AI軟體模擬出來的聲線。
目的當然只有一個——騙錢。
有人胃口更大，不甘心只騙普通人的小錢，還要騙公司的大額投資。
於是偽裝出男明星的聲音去談合作，好在公司比較警惕，才沒能讓對方得逞。
現在又有了AI在視頻方面的輔助，騙子更是如魚得水，讓人防不勝防。
前幾天看綜藝，黃曉明說曾經發現自己在不知情的情況下，給某個品牌代言了。
不僅有自己和劉亦菲參加品牌活動的視頻，還在現場講了很多品牌相關的內容。
但他本人對此卻毫無印象，就很恍惚。
後來才知道，這視頻是用AI做出來的，發言也都是AI操作的結果。
連本人都差點被忽悠，何況看視頻的其他人呢？
現在某些直播間，開始用AI換臉明星搞帶貨。
不知情的人看了又怎麼能區分呢？
國外也一樣。
斯嘉麗前幾天告了一名AI程序開發者，因為對方直接用她的形象和聲音來打廣告。
明明是《黑寡婦》的幕後花絮，搖身一變，就成了AI程序的宣傳廣告。
好一個偷天換日。
網絡上本來就很容易出現那種看圖說話的假消息，經常一張圖下去八百個故事就編出來了。
如今有了AI技術，你想編什麼故事，它就給你憑空造出什麼，真與假、是與否的邊界更加模糊。
反倒更方便了造謠傳謠的人，
也給了不法之徒發揮空間。
有人分享過更惡劣的被騙經歷。
騙子截取到他的人臉識別視頻，然後利用AI換臉技術，拼接出一段裸聊視頻，然後威脅當事人要把這視頻群發給他的通訊錄好友們。
即使當事人知道自己並沒做過這樣的事，也會在一瞬間陷入恐慌，然後被騙子榨乾價值。
或許你會說不要相信網上那些人就好，但是萬一AI偽裝成你熟悉的人來尋求幫助呢？
福州的郭先生就遇到過。
一位好友打來微信視頻，請求幫助。雖然對方一開口就是430萬這樣的巨款，但微信視頻已經打消了他的懷疑，他二話不說轉了錢。
哪知道，這年頭視頻也能造假。
視頻對面的也不是真朋友，而是披著AI外皮的騙子，只是用了換臉和擬聲的手段。
說起現在這些套路，就連年輕人都難分辨，每每看到都要感慨一句，學無止境。
要是那些本就對網絡科技知之甚少的老年人碰到，就更容易上當受騙了。
反倒是騙子，總是走在學習新技術的前沿。
雖然都說網際網路是虛擬的，但很多時候構建起網際網路的底層邏輯卻是真實和信任。
這下可好，人與人的信任岌岌可危。
名人會被deep fake出自己從沒講過的話，喜提魯迅同款待遇。
上班族會被deep fake出的老闆騙得雲裡霧裡。
之前就有個公司財務，被拉進一個視頻通話群組裡，裡面每個董事會的老闆都在。
然後財務就被「換臉」老闆們，騙走了2億多港幣。
老人會被deep fake出的子女騙到傾家蕩產。
普通人會被deep fake出的莫須有視頻弄得百口莫辯。
……
所有「真相」都可以被偽造。
所有人都可以被技術玩弄於股掌之間。
AI時代，沒有真相。
這時候我們又該怎麼辦呢？
「科學技術是第一生產力」，這當然是事實，畢竟我們直白地享受著科技發展帶來的好處。
與此同時，我們不該忽略科技可能帶來的破壞性。伴隨著高速的科技發展，社會結構迎接著巨大衝擊，固有的生產模式更頻繁地遭遇被淘汰的命運，無法及時跟上發展的人經歷著動盪。
我們總說科技的發展是雙刃劍。但它的劍刃究竟指向哪方，是由人來決定的，而非由技術。
所以，比擔心AI技術的失控與風險更重要的是，加強對AI生成內容的監管，增加限制。
總好過讓它不受約束地自由發展。
畢竟現實中，開鎖的師傅都得去警局備案，更何況是這些更不受控的內容呢？