美國 AI公司 Anthropic近期發布公開聲明，承認旗下 AI模型曾在網際網路安全測試期間「誤入公開網絡環境」，並對3個不同的目標進行黑客攻擊。雖然此次事件並未造成任何明顯的損害，但 AI的高度發展也引發許多專家、學者的擔憂。圖：達志影像／美聯社（資料照）
近年來，人工智慧（AI）技術持續發展，越來越多 AI工具進入了人們的日常生活之中，各大科技企業在相關領域取得的突破也成為全球民眾關注的焦點。近期有消息稱，Anthropic承認旗下 AI語言模型在進行網絡安全測試時，曾在未經許可的情況下，訪問了3個不同機構的網際網路設施。雖然 Anthropic聲稱旗下 AI模型在意識到身處開放網絡環境後隨即停止黑客攻擊，但相關事件仍引發部分民眾對 AI技術可能造成危害的擔憂情緒。
根據CNN報導，當地時間30日，Anthropic發布公開聲明，承認旗下 AI模型犯下了與 OpenAI相同的錯誤：在網絡安全測試中入侵了3個分屬不同組織的系統。該聲明表示，在 OpenAI公開承認 AI系統曾在網絡安全測試期間逃出測試環境後，公司對旗下 AI系統的測試報告進行了嚴格審查，最後在14萬份評估報告中發現了3起入侵開放網絡實體的案例。
聲明稱，在這3起入侵事件中，公司要求被測試的 AI模型進行虛假的「奪旗」挑戰，找出、入侵並奪回被隱藏在網絡中的旗幟。Anthropic指出，在入侵這3個位於公開網際網路中的對象時，旗下 AI模型使用了包括「利用弱密碼」、尋找無需登錄的系統入口點等多項基本技術。
但 Anthropic強調，旗下 AI模型並不存在「故意」逃離測試環境的意圖，只是該公司與合作夥伴之間的「誤會」讓 AI模型獲得了訪問開放網際網路的權限。Anthropic也進一步表示，當旗下 AI模型意識到自身正處於開放網絡環境中時，就停止了相關黑客攻擊行動，宣稱所有受到影響的組織「都沒有意識到自己遭到黑客攻擊」。
即使 Anthropic宣稱相關黑客行動並沒有造成大規模傷害，但接連發生的 AI入侵公開網際網路實體事件，也引發許多專家、學者的擔憂。報導稱，具備高級網絡安全技能的 AI如果逃離人類掌控的測試環境，極可能對現實世界造成巨大的危害。
最後，Anthropic宣布停止所有網絡安全評估測試活動，承諾將採取更深入的防護措施，避免類似事件再次發生。但該報導稱，AI代理「在無意中入侵其他組織」的事件可能不只發生在 OpenAI以及 Anthropic等兩家公司，呼籲相關企業加強對 AI測試環境的保障，並適度減緩 AI的發展速度，「目前 AI的發展速度已經遠遠超過了我們這個社會所能承受的適應上限」。
