唐納德·川普(Donald Trump)總統說,他的政府正在考慮為人工智慧採取額外的安全措施,在此之前,OpenAI模型進行內部安全測試時發生了網絡安全事件。
當被問及有關這些模型在測試期間自主入侵另一家人工智慧公司系統的報導時,川普總統星期三(7月29日)說,美國必須在防範人工智慧風險與保持對中國的技術優勢之間取得平衡。
「我們正在研究人工智慧,我們正在研究控制措施,」川普說,「我們也在確保我們保持領先。」
總統說,美國在人工智慧領域「領先中國很多」,並說,中國對這項技術「幾乎沒有任何控制」。
「這有點自由放任了,」川普說,「所以,我們必須兩方面都謹慎。我們不想因為限制它們而突然落後於中國。」
OpenAI透露,在一次內部安全評估中,其多款模型,包括GPT-5.6 Sol以及一款功能更強大的內部研究預覽版,聯合入侵了人工智慧公司Hugging Face的系統。該公司稱此事件為「史無前例的網絡安全事件」。
OpenAI說,這些模型正在接受網絡安全基準測試,為了評估目的,一些常規的安全措施被降低。這家公司說,這些模型並未被指示攻擊Hugging Face,但顯然是為了獲得基準測試的答案而超越了預期的測試環境。
川普政府在OpenAI事件發生之前就已經出台了人工智慧安全措施。政府之前曾對Anthropic公司的Fable和Mythos模型實施了臨時出口管制,導致這兩款模型離線超過兩周。
川普還在6月份簽署行政命令,指示政府建立網絡安全基準和高能力人工智慧模型的自願評估框架,具體細節計劃8月1日公布。
「誰在人工智慧領域獲勝,誰就將獲勝,」川普說,「人工智慧的重要性就是這麼大。因此,它比網際網路曾經的重要性還要大,比歷史上任何事物都更重要。所以我不想加以限制。我認識其中許多人,不想限制他們做出偉大的成就。」
OpenAI執行長山姆·奧特曼(Sam Altman)星期三承認,事件發生後,人們對人工智慧的擔憂加劇了。
「我認為,在任何新的能力水平出現之後感到恐懼都是非常自然的,」奧特曼說,「顯然,我們非常重視此事,並將繼續重視,但我可以說我理解,我明白。很多人工智慧技術都發展得非常成功,現在人們覺得,好了,我們已經處於一個新的階段。」
奧特曼說,OpenAI並未考慮放緩人工智慧的發展步伐。「我不會用『放緩』這個詞,但我們確實討論過,隨著模型能力的提升,有必要控制發展節奏,我認為這符合所有人的利益,」他說。當被問及 OpenAI 的模型是否可能入侵了其他公司的系統時,阿爾特曼表示:「有可能,是的。」
OpenAI一位發言人說,奧特曼計劃星期四與白宮辦公廳主任蘇西·威爾斯(Susie Wiles)、國家網絡總監肖恩·凱恩克羅斯(Sean Cairncross)和技術顧問麥可·克拉齊奧斯(Michael Kratsios)會面。