AI不僅能替你上學，幫你寫作業，甚至還能為你領筆「補助金」回來——不過，前提是你得先教它怎麼騙過活人。
這魔幻現實的一幕正在美國社區大學上演：詐騙集團用ChatGPT等等AI工具批量生成學生身份，專門盜取聯邦和州政府的助學補貼。
這些「賽博學生」比人類更善於「賣慘」，無家可歸學生和寄養青年的身份偽裝幫助他們更快通過申請。課堂表現更堪稱模範，不僅能搶課占位，出勤率甚至比真學霸還高，還能準時交作業。
魔幻的背後，是技術與人性的博弈。YouTube上，甚至有人發布「教學」視頻，展示了自動化程序如何繞過Contra Costa College的入學審核系統。
這些「賽博學生」已經幫助詐騙集團收割了數百萬美金。根據CalMatters，2022年6月，教育部對洛杉磯海港學院（Los Angeles Harbor College）和西洛杉磯學院（West Los Angeles College）一個詐騙集團展開調查，該集團在過去四年中利用至少57人的身份竊取超過110萬美元聯邦援助。洛杉磯城市學院（Los Angeles City College）另一詐騙案可能涉及超過100萬美元，盜用70人身份。
校方也不得不為此支付高昂的費用，藉助專業的技術手段偵破騙局。加州校長辦公室統計，2023年社區大學申請者中高達25%是機器人，而校方為此支付的防欺詐費用已超過25萬美元。
然而，這場校園騙局不過是AI侵蝕現實世界的冰山一角。
從偽造「全紅嬋家新房開工」的帶貨視頻，到用雷軍的聲音生成罵人內容；從「假靳東」騙取老人20萬元，到寶媽被AI戀人騙走200萬元，AI詐騙已滲透社交、消費、金融的每一個縫隙。
在這場AI技術與人類的認知攻防戰中，人類正面臨一場前所未有的信任危機——我們還能相信自己的眼睛和耳朵嗎？
01 AI學霸攻陷社區大學
「賽博學生」們的偽裝也並非毫無破綻。
2023年，伯克利市立學院（Berkeley City College）圖書館員道奇（Heather Dodge）在線上課程中要求學生用iPhone或網路攝影機拍攝基本自我介紹的影片作業，但發現4名學生提交的是類似ChatGPT生成的泛泛文字。
道奇開始懷疑他們的學生身份，但因為擔心存在偏見，她要求對他們分別進行Zoom會議。其中兩人沒回應，一名學生同意進行視訊會議，但表示攝影機和麥克風無法使用，另一名學生幾乎不會說英語，每次透過Zoom提問，都用手機翻譯。
除此以外，還出現了大量回復內容明顯不合常理、幾乎不可能是人類所寫的帳戶。例如有的註冊帳號會在自我介紹中寫出「你好，我是[請輸入城市名稱]的學生」這類明顯的程序模板語句，或者使用學生通常不會用的文法。
這些「賽博學生」通過註冊課程並保持足夠長的註冊時間，為了維持在校身份，TA們會提交由 AI生成的作業。
TA們的目標是社區大學的助學金。作為兩年制的公立大學，美國社區大學學費通常低於四年制大學。由於招生對象以本地學生為主，州和聯邦政府也會提供助學金支持。
加州法律要求社區大學接受所有合法學生，且長期致力降低註冊門檻，學生需簽署宣誓書，保證其資訊真實性，但許多大學不會獨立核實學生身份。部分學院聲稱對無家可歸或曾寄養青年的申請者較為寬鬆，這一漏洞正被詐騙者利用。
等到助學金發放後，「賽博學生」再退課，從中獲取資金。
教師們也面臨甄別真假學生的挑戰。Southwestern College教授伊莉莎白・史密斯透露，她原本課程註冊的104人中，僅確認其中15人為真實學生，其餘均被她判斷為機器人。「起初我還為課程受歡迎感到開心，現在只剩下滿心失望。」
但在許多情況下，人工判斷並不容易，還需要藉助專業的技術手段，當然也需要學校支付不菲的費用。
洛杉磯社區學院副校長洛佩茲（Nicole Albo-Lopez）表示，去年因詐欺行為，學區刪除約四分之一課程註冊，學校向身份驗證公司Socure支付超過25萬美元協助偵測詐欺。
當「賽博學生」在校園中悄然蠶食教育資源時，一場AI信任危機正在社會各個角落悄然蔓延。
02 AI騙局隨處可見
AI詐騙的觸角早已突破校園圍牆，在國內，自帶光環的公眾人物正在成為首批大規模受害者。
近日，社交平台上出現多個帳號使用AI合成的全紅嬋爸爸、哥哥聲音，用完全相同的文案介紹家裡要蓋新房，以此來博取流量。
在AI合成視頻中攜帶有駱駝奶粉、土雞蛋、洗衣液等多種商品連結，流量較大的仿冒作品評論區中，不乏有人被騙下單購買，部分消費者收到三無產品後投訴無門。
事實上，利用AI偽造視頻的現象並不罕見，此前曾有多位明星成為AI偽造視頻的素材。
半個月前，張馨予公開譴責商家用 AI合成其聲音推銷減肥藥。一個月前，劉曉慶也遭遇 AI換臉視頻冒用，公開表示「聲音像我卻非我」。
今年3月，小米集團創始人雷軍在兩會期間就表示，他本人就是AI換臉擬聲的受害者。
「假靳東」詐騙老年人、「國慶7天AI雷軍罵了8天」、「張文宏」深夜帶貨等一眾AI假冒名人的新聞頻頻出現在熱搜榜單上，已經引起今年兩會代表委員的高度關注，呼籲通過法律手段來加強對AI詐騙的管理和約束。
與此同時，AI詐騙早已突破名人圈，滲透至社交陷阱、消費欺詐和信息泄露等生活高頻場景。
不久前，AI假孫子的視頻就讓不少老年人深陷其中，視頻里穿紙尿褲的嬰兒獨自去地里摘茄子、洗淨後還能抄起菜刀給全家做三菜一湯。這些違背常理的內容，在年輕人看來簡直讓人難以置信，卻絲毫不影響評論區「幸福時光」「幸福快樂」等老年用戶留下點讚和祝福。
如果說面對AI假孫子，老年人只是投入感情，那在面對假「靳東」的時候，則是情感金錢雙投入。在假「靳東」詐騙案中，其中最典型的一例是60歲阿姨向假靳東轉帳近20萬元。
傳統電詐中，詐騙分子集中圍獵「一老一少」的情況比較常見，面對完全可以以假亂真的AI詐騙，年輕人也和老年人一樣沒有招架之力。
利用換臉和換聲技術，AI化身「虛擬戀人」，用精心設計的話術和人設，把受害人迷得暈頭轉向，最後露出「騙錢」的真面目，類似網絡交友詐騙案例屢見不鮮。
據《中國青年報》報導，2023年，寶媽王枚（化名）在境外求學期間通過社交平台結識偽裝成房東的男性網友，對方利用AI換臉換聲技術獲取其信任並發展戀愛關係。隨後以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導加大投入，致使王枚抵押房產、網貸累計損失約200萬元，最終提現受阻發現被騙。
從名人到普羅大眾，AI詐騙正無孔不入。
03 AI黑產已成產業鏈
AI騙局在現實中肆意橫行，而在這背後，一個龐大且複雜的 AI黑產產業鏈正悄然成型。
在電影《孤注一擲》中，大型詐騙集團由成百上千名詐騙分子組成，集團內部分工明確。如今，AI技術普及讓詐騙門檻大幅降低，一兩名詐騙分子就可以展開個人作案，AI技術承擔了從目標篩選到身份偽裝的一系列工作。
幾年前「假靳東」進行情感詐騙時還需要有真人來扮演，可現在AI生成的虛擬人物不僅更逼真，而且還更懂老年人的需求。
事實上，AI黑產由來已久。
早在2017年，一個名為「deepfakes」的 Reddit用戶在社交網站上發布了斯嘉麗・詹森等女演員的換臉視頻，使得「Deepfake」成為了「AI換臉」的代名詞。
模型公布後引發轟動。網絡上隨即開始出現大量使用Deepfake合成的色情視頻，其中不少視頻女主角的人臉被替換為斯嘉麗·詹森、蓋爾·加朵等大牌女星。
這給女星們造成了極其惡劣的負面影響，最終在粉絲的譴責中，視頻被刪除，相關論壇也被封禁。
但由於相關技術的原始碼都免費開放，很快，一系列AI換臉軟體在國內風生水起，包括ZAO、去演、顏技和AI換臉等。
在號稱「僅需一張照片，出演天下好戲」的ZAO，只需一張正面照，就能生成十分真實且靈動的最長可達一分鐘的視頻，吸引了大量用戶關注。但很快，ZAO的霸王條款和隱私泄露等問題遭到人們質疑，其發行公司陌陌也隨即遭到工信部約談。
雖然AI換臉、AI脫衣以及AI語音和視頻這些技術早已有之，但隨著ChatGPT的火熱，這些技術再次回到大家的視野，甚至變得更加逼真，更加低門檻。
更讓人擔憂的是，AI詐騙已經形成了「生成-傳播-洗錢」的完整產業鏈。
上游技術提供者通過暗網兜售「AI換臉套餐」，價格從幾百元到數萬元不等。中游推廣者則利用非法獲取的個人資訊庫，通過簡訊、社交軟體精準投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平台等渠道轉移資金。
除此以外，AI詐騙也在越來越普遍。
在一起山東警方破獲的AI詐騙案中。受騙人在收到冒充他的親戚的信息後，還收到了他打來的視頻，儘管在7秒的視頻中連線有些許卡頓，但是聲音和樣貌都讓受騙人確認了對方的身份，進而向對方帳戶轉帳。
近一段時間以來，這種案例屢見不鮮。福州某科技公司法定代表人郭先生，也因為AI偽造的微信視頻，在短短十分鐘內，就被騙了430萬。
AI的進化史，也是一塊人性的試金石。當「賽博學生」以公益之名掠奪教育資源，當「虛擬戀人」以溫情為餌榨乾受害者積蓄，技術的雙刃性從未如此鋒利。
