2023年10月4日，一部智慧型手機螢幕上顯示人工智慧研究機構OpenAI的標誌。(MARCO BERTORELLO/AFP via Getty Images)
人工智慧巨頭OpenAI周二（7月21日）披露，一個由其先進AI模型驅動的自主代理程式（autonomous agent），上周在安全評估期間突破隔離環境、連接網際網路，併入侵知名AI初創公司Hugging Face的基礎設施。
Hugging Face表示，這次攻擊從頭到尾均由自主AI代理系統驅動，可能是有史以來第一起此類事件。
AI突破隔離利用未知漏洞「作弊」
OpenAI表示，此次事件涉及多個模型，包括最新發布的GPT-5.6 Sol，以及另一款能力更強仍在內部測試中的模型。
這項評估旨在測試模型所能展現的最大網絡攻擊能力，因此測試期間並未啟用部分用於阻止高風險網絡活動的安全防護。
儘管OpenAI稱，已將模型置於「高度隔離環境」之中，代理程序仍成功突破隔離，連接網際網路，併入侵Hugging Face，試圖完成測試目標。
調查顯示，該AI使用了遭竊的登入憑證，並發現一個此前未知的漏洞，藉此存取Hugging Face的伺服器。
OpenAI表示，該代理為了達成一個相當狹窄的測試目標，「採取了極端手段」，並且「找到了取得機密信息的方法，並可利用這些信息在評估中作弊」。
OpenAI稱，其安全團隊其後發現異常活動；Hugging Face也偵測並阻止相關行動，雙方隨即展開隔離與鑑識調查。OpenAI表示，公司目前正進一步加強安全防護措施。
Hugging Face：攻擊全程由AI自主驅動
Hugging Face共同創辦人兼執行長克萊芒．德朗格（Clément Delangue）表示，該公司上周偵測到數據處理系統遭入侵，攻擊方式「與我們過去處理過的任何事件都不同」，因為「從頭到尾，整個過程都是由一套自主人工智慧代理系統驅動的」。
德朗格在社交平台X發文說：「鑑於該代理的複雜程度，我們懷疑這次網絡攻擊可能來自一家前沿人工智慧實驗室。結果證明，確實如此！」
他補充說：「所有這一切竟然都是自主發生的，實在令人難以置信！」
德朗格表示，過去24小時內，他一直與OpenAI合作處理此事，「我們深信，他們並無任何惡意」。他並稱，這可能是第一起此類事件。
專家：AI能力逼近頂尖黑客
這起事件也加劇外界對前沿AI模型能力及潛在風險的關注。德州民主黨聯邦眾議員格雷格．卡薩爾（Greg Casar）表示，這起事件令人擔憂。
他在聲明中說：「人工智慧正以極快速度發展，卻沒有真正的監管措施來保障我們的安全。」
他呼籲實施強制性的獨立安全測試及安全事件披露制度，並加強國際合作，以防範AI發展可能帶來的災難。
Luta Security執行長凱蒂．穆蘇里斯（Katie Moussouris）表示，這起事件可能預示未來將出現更多類似入侵。她將現今的AI模型形容為「全世界最聰明的章魚逃脫大師，擁有無限條能夠抓握的觸手，而且能從任何地方擠出去」。
她指出，實驗室及政府評估機構需要建立能力，在AI再次上演「胡迪尼式逃脫」時將其隔離、監控，並向受影響各方披露情況，最好能在第三方受到傷害前採取行動。
代理式AI網絡安全公司Tolmo的工程師馬特．蘇伊什（Matt Suiche）表示，這起事件顯示，前沿模型正在「縮小與最先進攻擊者之間的差距」。
不過他也指出，OpenAI所描述的這類入侵，使用前沿實驗室以外已可取得的AI技術同樣可能做到，並不一定需要最新模型。
在此事件披露之際，美國政府正加強對AI安全風險的審查。川普總統今年6月簽署行政命令，建立審查框架，讓聯邦政府可在最先進AI系統公開發布前，花最多一個月評估其國家安全風險。
OpenAI在聲明中說：「AI正在加速漏洞的發現與利用。」
該公司並總結道：「這起事件帶來的主要教訓是，模型的安全性與安全保障，必須跟上其能力快速進步的步伐。」