示意圖。兩部手機通過TikTok應用程式正在播放視頻。
近日，香港發生發生運用AI深偽技術詐騙企業的案件。詐騙團伙換上一跨國公司多名英國高管的樣貌和聲音，通過視訊會議騙取該公司香港分部財務人員的信任，以進行機密交易的名義，騙走約2億港元資金。
據香港《文匯報》的報導，香港警方日前對外披露了香港首宗利用AI技術「多人變臉」詐騙案的詳細案情。
據香港網絡安全及科技罪案調查科網絡安全組介紹，詐騙集團首先在網際網路上搜集到這家跨國公司英國總部多名高層的面部和聲音數據，然後透過AI深偽技術，把幾名騙子換上了這些公司高層的面貌和聲音。再按照事先編寫好的劇本，預製了一個「公司高層舉行會議」的短片。
第二步，詐騙團伙以總部財務長的名義，向該公司香港分部的財務人員發信息，聲稱公司要進行一項「機密交易」，邀請該香港職員參加線上「視訊會議」。
第三步，向香港財務人員播放了事先錄製的模擬在線會議的場景短片。畫面顯示，有多名英國總部的高層人員參加了這次線上會議，各位「高層」簡短「討論」了公司的一項機密交易並作出決策。
第四步，「總部財務長」透過即時通訊軟體，指示香港分公司財務職員在一星期內，分15次將總計兩億港元的資金存入5個本地銀行戶口，作為「機密交易」的資金。
由於線上「視訊會議」的場景十分逼真，而出席會議的多名公司總部高層都是香港財務職員熟識的，不但樣貌相同，而且說話的聲音也完全與真人相符，因此香港財務人員沒有產生懷疑，按照「財務長」的指令在其指定轉存了2億港元。直到今年1月29日，香港分公司向總部查詢，才知道上當受騙而報警。
香港警方指出，這次AI「變臉」詐騙案中，為讓受害人不產生懷疑，詐騙團伙用「深偽技術」假冒了多人多角色。由於「在線會議」是提前預製好的，不能在線上與香港職員有現場的對話互動，因此整個「會議」過程在短短几分鐘內就結束，不給香港職員任何現場提問的機會。而讓總部多名高層同時「現身」並當場下指令，就是要讓香港分部的財務人員深信這是來自公司總部的「最高指示」。
警方在公布上述案例的具體案情後，提醒香港市民：人工智慧「深度偽造」的欺詐手法不易識別，網上已經「眼見不一定為實」。不過，只要市民保持警惕，不輕易相信任何社交平台或通訊軟體所收到信息，採取必要的措施求證鑑別，仍可防患於未然。
識別利用深偽技術詐騙的方法包括以下幾種：
1.要求對方在鏡頭前做指定動作，留意對方在視頻上影像有否異常情況出現；2.當對電話或視頻上的親友提問，以鑑別對方的身份是否真實。3.切勿輕易向他人提供自己的人臉、指紋等生物辨識資料，以免被騙子利用犯案；4.當親友及公司職員在視頻或錄音中提出匯款要求時，務必重新撥打對方電話或通過其他渠道對其身份及指令進行核實。5.避免接聽陌生視像通話來電，以防被騙子盜取肖像用來犯案；6.如有懷疑，可在「防騙視伏器」輸入對方的電話號碼、社交媒體帳號、收款帳號等評估風險，或撥打香港警務處反詐騙協調中心的熱線電話進行查詢。
警方沒有透露被害公司的名稱，只通報說該案仍在調查過程中，「截至目前沒有人遭到逮捕」。
