2022年8月18日，在中國北京舉行的2022年世界機器人大會上，一名男孩指著人工智慧機器人海報。
在2024年選舉之前，由人工智慧（AI）生成的政治虛假信息已經在網上瘋傳，從拜登發表攻擊變性人演講的篡改視頻，到AI生成的兒童在圖書館學習撒旦教的圖像，一些專家表示，AI技術正在以前所未有的速度大規模地破壞美國選舉。
隨著AI技術趨於普及，成本也相對低廉，AI工具不僅可以迅速產生針對性的競選電子郵件、文本或視頻誤導選民，冒充候選人，還能夠結合算法，廣泛地傳送虛假信息。
ZeroFox網絡安全公司情報副總裁A.J. Nash警告說：「我們還沒有做好準備。我個人認為，人工智慧製作音頻和視頻的能力已突飛猛進。當它能大規模地做到這一點，並在社交平台上發布，那麼將產生重大的影響。」
艾倫人工智慧研究所的創始執行長奧倫．艾茲奧尼（Oren Etzioni）說：「如果埃隆．馬斯克親自給你打電話，告訴你投票給某個候選人，你會怎麼做？很多人都會聽。但這不是他。」
Forcepoint網絡安全公司的全球首席技術官佩特科．斯托揚諾夫（Petko Stoyanov）表示，欲干涉美國選舉的團體可能通過人工智慧或合成媒體，來削弱選民對選舉的信任。他說，「如果一個國家、網絡犯罪分子（以AI）冒充某人會怎樣？會有什麼影響？我們有任何追責權嗎？我們將看到更多來自國際的錯誤信息。」
以下是專家整理的 AI造成的重大影響：
1.以候選人的口吻自動發出機器人電話信息，指示選民在錯誤的日期投票。
2.候選人承認犯罪或表達種族主義觀點的虛假音頻。
3.發布候選人演講或接受採訪的虛假視頻片段。
4.生產假的當地新聞報導圖片，謊稱某位候選人退出競選。
為了遏止這些現象，紐約州國會眾議員克拉克（Yvette Clarke）已在國會提案，要求參選人使用AI創建的競選廣告時，必須附加標籤，任何AI合成圖像則需在圖片上添加水印。
