IT之家8月11日消息，據 Futurism報導，安全研究人員近日揭示微軟內置於 Windows系統的 Copilot AI可被輕鬆操控泄露企業敏感數據，甚至變身強大的釣魚攻擊工具。
IT之家注意到，安全公司 Zenity聯合創始人兼 CTO Michael Bargury在拉斯維加斯黑帽安全大會上披露了這一驚人發現，他表示，「我可以利用它獲取你的所有聯繫人信息，並替你發送數百封電子郵件。」他指出，傳統黑客需要花費數天時間精心製作釣魚郵件，而利用 Copilot，幾分鐘內即可生成大量具有欺騙性的郵件。
研究人員通過演示展示了攻擊者無需獲取企業帳戶即可誘騙 Copilot修改銀行轉帳收款人信息，只需發送一封惡意郵件，甚至無需目標員工打開即可實施攻擊。
另一個演示視頻揭露了黑客在獲取員工帳戶後可利用 Copilot造成嚴重破壞。通過簡單的提問，Bargury成功獲取了敏感數據，他可以利用這些數據來冒充員工發起網絡釣魚攻擊。Bargury首先獲取同事 Jane的郵箱地址，了解與 Jane的最近一次對話內容，並誘導 Copilot泄露該對話中的抄送人員郵箱。隨後，他指示 Copilot以被攻擊員工的風格撰寫一封發送給 Jane的郵件，並提取兩人最近一次郵件的準確主題。短短几分鐘內，他就創建了一封具有高度可信度的釣魚郵件，可向網絡中的任何用戶發送惡意附件，而這一切都得益於 Copilot的積極配合。
微軟 Copilot AI，尤其是 Copilot Studio，允許企業定製聊天機器人以滿足特定需求。然而，這也意味著 AI需要訪問企業數據，從而引發安全隱患。大量聊天機器人默認情況下可被在線搜索到，成為黑客的攻擊目標。
攻擊者還可以通過間接提示注入繞過 Copilot的防護措施。簡單來說，可以通過外部來源的惡意數據，例如讓聊天機器人訪問包含提示的網站，來使其執行禁止的操作。Bargury強調：「這裡存在一個根本問題。當給 AI提供數據訪問權限時，這些數據就成為了提示注入的攻擊面。某種程度上來說，如果一個機器人有用，那麼它就是脆弱的；如果它不脆弱，它就沒有用。」