亞馬遜作為Anthropic的主要投資者之一，其CEO近日致電美國政府，報告了模型存在的安全隱患。儘管Anthropic在發布前多次通知政府並緊急談判，美方仍以安全為由實施出口管制，暫停境外訪問並全球下架。該事件凸顯了美國對前沿AI安全的高度焦慮，以及商業利益與國家安全交織下監管力度的持續升級。
Anthropic的AI模型在公開發布數日內被美國政府叫停，導火線來自其主要投資方亞馬遜。
據《華爾街日報》，亞馬遜CEO安迪·賈西致電美國財政部長貝森特等高官，稱其研究人員通過特定提示詞繞過Anthropic旗艦模型Fable 5的安全護欄，獲取了可用於網絡攻擊的敏感信息。白宮隨即召開緊急會議，商務部最終對Fable及Mythos模型實施出口管制，禁止境外用戶訪問。Anthropic隨後暫停兩模型的所有用戶訪問，以配合合規要求。
此次管制不僅令正在籌備IPO的Anthropic前景蒙上陰影，也折射出科技巨頭間的暗中角力、美國政府對前沿AI的安全焦慮，以及Anthropic與川普政府之間長期積累的緊張關係。
亞馬遜深夜致電，引爆AI管制連鎖反應
據Axios報導，事件始於當地時間周四深夜。亞馬遜致電美國政府官員並提交報告，稱其研究人員成功突破Anthropic旗下Mythos模型的安全限制，訪問到被認定構成國家安全威脅的內容。
另據《華爾街日報》，亞馬遜的報告顯示，在特定提示詞引導下，Fable 5模型能夠挖掘出至少四款軟體程序中的安全漏洞，這類信息通常受模型安全機制屏蔽。
網絡安全公司GreyNoise Intelligence創始人Andrew Morris指出，這些信息距離真正危險的網絡安全情報仍有相當距離，許多公開工具亦可發現類似漏洞。此外，尚無證據表明亞馬遜研究人員突破了Fable模型將漏洞信息轉化為可執行攻擊代碼的更深層防護。
Anthropic方面回應稱，亞馬遜所指出的漏洞屬於相對基礎的問題，公司已建立充分的安全保障機制，始終將安全置於優先位置。
周五凌晨談判未果，川普簽署出口管制
據Axios，政府官員當地時間周五凌晨與Anthropic進行了數小時談判，要求其主動下架最新模型，但未達成一致。
據《華爾街日報》報導，Anthropic執行長Dario Amodei與部分政府官員在周五的通話中，進一步加深了後者的疑慮。官員們認為，Anthropic表現出不願與政府安全專家合作解決問題的態度，這與政府長期以來對其在安全風險管理方面缺乏可信度的判斷相互印證。
最終，川普總統儘管對限制創新有所保留，仍簽署批准了此次管制行動。白宮AI顧問、風險投資人David Sacks在社交媒體上表示，這一限制措施實屬「不情願」之舉，並稱政府「現在的希望是Anthropic修復安全問題，出口管制得以解除，Fable模型重新公開發布」。
值得注意的是，Anthropic在Fable模型發布前已多次通知美國政府，並與政府關鍵AI測試機構合作，採取分階段開放策略，優先向亞馬遜等科技公司提供預覽訪問權限，以便在更大範圍公開前用於軟體漏洞排查。
利益交織，亞馬遜既是股東又是「吹哨人」
此次事件的複雜性在於，亞馬遜既是Anthropic的主要投資方，也是其晶片供應商，同時還將Anthropic最優質的模型部署於自身的軟體漏洞識別業務中。
據《華爾街日報》援引部分知情人士，亞馬遜CEO賈西致電政府官員的本意是一般性安全預警，但事態迅速升級為商務部對境外用戶的全面封禁。亞馬遜發言人表示，作為服務大量公私營客戶的領先雲服務提供商，政府就潛在安全風險徵詢其意見並不罕見，並稱此類情況下公司不會披露相關討論細節。
部分分析人士指出，白宮對Anthropic的不信任由來已久，涉及該公司與自由派政治捐款人的關聯、其對AI危險性的公開警告，以及此前雇用多名拜登政府官員等因素。
估值承壓、用戶分流，OpenAI或成潛在受益方
此次管制在Anthropic衝刺IPO的關鍵節點落地，時機尤為敏感。
據報導，該公司最早計劃於今年秋季上市，旗艦模型被迫下架可能導致用戶流向其他平台，並對公司估值構成壓力。OpenAI被視為潛在受益方，該公司擁有自己的強大網絡安全模型，正逐步向客戶開放，並與川普政府保持積極溝通。
從更宏觀的視角看，結合近期賦予安全官員對AI模型更大監管權限的行政令，以及政府就潛在入股AI公司展開的討論，此次事件標誌著政府對AI行業管控力度的顯著升級。
