新聞 > 軍政 > 正文

中共使用「AI虛擬人」猛烈謾罵攻擊台灣總統蔡英文

台灣總統大選前的敏感時刻,台灣國安官員在1月9日的一場簡報會上披露中共國安部首度利用大量生成的「AI虛擬主播」對台灣總統蔡英文展開大規模的抹黑謾罵攻擊,短短3天之內就產制數百則相關視頻,企圖藉由打擊蔡英文進而對民進黨總統候選人賴清德的選情造成附帶傷害。

資料照:台灣總統蔡英文和台灣旗幟

台北—

台灣總統大選前的敏感時刻,台灣國安官員在1月9日的一場簡報會上披露中共國安部首度利用大量生成的「AI虛擬主播」對台灣總統蔡英文展開大規模的抹黑謾罵攻擊,短短3天之內就產制數百則相關視頻,企圖藉由打擊蔡英文進而對民進黨總統候選人賴清德的選情造成附帶傷害。

一月初,在油管(YouTube)以及臉書(Facebook)上出現大量批評蔡英文的短視頻,不分男女,甚至還有外籍人士,分別操普通話、粵語等多種口音的主持人同聲謾罵。

有的罵蔡英文是「沉迷於權力的欲望,對祖輩的榮耀傳承毫不在意,刻意忘卻根源」;有的嫌她「每項政策都收效甚微,不僅沒有改善台灣民眾的生活品質,還讓他們深受政策之苦」;更有甚者,以不堪入目的言詞,攻擊蔡英文私人領域話題。

台灣國安人士直指攻擊來自中共

然而,只要稍加注意,就會發現,所有這些短視頻都是以AI生成的「虛擬主持人」朗讀文稿,也因此引發台灣國安單位關注。

台灣國安人士在簡報會上揭露,這是中方針對台灣新型態的網絡攻擊模式,追查其傳播途徑發現,最早是在1月2日,一本長達318頁,名為《蔡英文秘史》的電子書,被人經由假帳號貼到境外儲存平台「Zendo」上面。

隨後在短短3天之內,書中抹黑蔡英文的內容就被拆分章節,製作成大量AI虛擬主播短視頻,透過近千個帳號,貼上油管,再快速地被轉貼到數百個臉書粉專、Instagram及X(原名推特)等社交網站,以及台灣媒體所屬的網絡平台。

這些短視頻都是以中國知名廠商「字節跳動」所推出的剪輯軟體「剪映」製成。公開信息顯示,「剪映」在2023年的更新版本中加入了AI虛擬主播功能,只要輸入文本,就可以生成不同主播、不同口音的短視頻,一般網民就能輕易操作。

台灣國安人士追查發現,這是一次由中國國安部等單位協同展開的網絡攻擊,不僅傳播模式與台灣及西方各國先前相互通報的攻擊型態高度吻合,甚至部分被用來發起攻擊的帳號也是重複使用。他說,這項抹黑行動就是常見的中國國安部這樣的單位的手法,裡面有一些帳號也是近期他們相關操作常用的帳號。

台灣國安人士進一步指出,2023年10月加拿大政府披露中國以網絡惡意評論攻擊、抹黑加國總理特魯多及數十名特定國會議員的手法雷同,而這次針對蔡英文攻擊,在協同模式上如出一轍,只是又結合了生成式AI新科技,如此大規模的攻擊特定國家元首,恐怕是全球首見。

海量AI視頻攻擊學者指為「協同行為火力展示」

美國內華達大學拉斯維加斯分校政治系助理教授王宏恩也注意到此次攻擊事件,他在臉書貼文指出,這類攻擊的重點在於快速生成上百支影片上傳,雖然單支點閱率趨近於零,但目的就是要造成網絡聲量變化。他形容這是一次「十足的協同行為火力展示」,規模也比先前追蹤研究的個案大很多。

王宏恩在回復美國之音的電郵中進一步分析,使用AI主播,只需要一部電腦就能完成,光是不需要找真人拍攝這點就可省掉十幾倍的時間,目的主要是企圖操弄社交網站的算法設定,因為大量的帳號在短時間上傳內容接近的東西,就可能讓算法誤以為是重要的新議題,自動推送給更多讀者。

此外王宏恩認為中國以此操弄台灣議題,更是直接影響台灣的民意形塑,讓台灣民眾不知道哪些議題才是更重要的,尤其是將卸任的蔡英文滿意度還很高,具有凝聚中間選民的動員效果,所以中國希望打擊她來降低賴清德的得票。

台北大學犯罪研究所副教授沈伯洋指出,值得慶幸的是,不論油管或臉書,對於假帳號跟虛假信息都已經提高警覺,因次這次攻擊發起後幾天之內,就有數百個相關帳號遭到刪除,增加了攻擊者操作的難度。

但沈伯洋同時指出,類似的網絡「飽和式攻擊」雖然難以在網絡平台長期散布,但在關鍵時刻大量散布謠言所造成的傷害仍不容小覷。

沈伯洋告訴美國之音:「比如戰爭的時候,突然大量的特定資訊的攻擊,大概在戰爭的時候可以用到,又或者說像現在已經接近選舉,大家已經沒有時間查證,你突然一次的飽和性攻擊,多多少少會有些效果。」

AI科技造謠學者:慎防假信息內容翻新

此外,AI視頻所使用的文本,同樣值得關注,沈伯洋分析,此次攻擊內容主要針對台灣總統蔡英文的私德,這在中國的輿論環境下或許有用,但在台灣的環境下卻未必有用。

在台北的國防安全研究院網絡安全與決策推演研究所助理研究員吳宗翰指出,未來值得警惕的是,中共針對不同的攻擊事件可能發展出更貼近台灣社會的文本。

吳宗翰說:「就是台灣發生的一些時事,他很多評論文字或用語等等,也都會從台灣的環境裡面去汲取,然後快速地生成,未來趨勢應該是會非常貼近時事,產生的速度也會越來越快。」

除了技術與速度的攻防之外,針對2024年包括美、日、韓等多國都要選舉,王宏恩也指出,這種使用上百支影片的AI語音攻擊方式此後也勢必會出現在其他國家的選舉上,創造對中國有利的議題方向。

 

責任編輯: 方尋  來源:美國之音 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2024/0111/2002483.html