新聞 > 科教 > 正文

失控!人類遭整體退場?

—他的緊迫構想,中共國竟成最大阻礙

美國人工智慧(AI)領域的領軍企業之一 Anthropic周四提出構想,建議建立一套機制,使該技術領域的頂尖公司能夠達成共識,在人類社會做出適應調整期間,放緩或暫停人工智慧的研發進度。

該公司在其智庫「Anthropic研究院」發布的一篇文章中呼籲:「我們認為,如果全球能夠具備放緩或暫時暫停尖端人工智慧研發的能力,將對世界有利。這樣可以使社會結構和對齊研究(alignment research)能夠跟上技術進步的步伐。」

目前,該公司正與 OpenAI、谷歌以及中國的 DeepSeek展開激烈競爭。Anthropic主張建立全球協調系統,以確保沒有任何競爭對手會利用他人放緩的機會搶占先機。

Anthropic是人工智慧模型「Claude」的開發者。該文引用了《中程飛彈條約》(INF Treaty)作為先例,並強調中程飛彈條約框架的建立耗費了數十年時間,但對於人工智慧而言,時間更為緊迫,因為人工智慧被認為「比飛彈發射井要容易隱藏得多」。

該公司寫道:「在缺乏全球協調機制的情況下,企業和政府將不得不在競爭壓力和地緣政治因素的影響下,做出艱難的安全性決策。」

讓中國獲優勢?

法新社這篇報導寫到,這一提議預計將在美國國內遭遇巨大阻力,因為許多政界人士和科技高管拒絕任何可能讓中國獲得決定性優勢的減速行為。

不過,唐納德·川普(Donald Trump)表示,他在最近訪問北京時,曾談及與中國在人工智慧安全領域開展合作的可能性。

Anthropic由 OpenAI的前員工創立,一直以將倫理和安全置於核心地位的實驗室形象自居。但該公司也受到了來自行業內部和白宮官員的批評,指責其在與 OpenAI爭奪首次公開募股(IPO)主導權的激烈競爭中,誇大風險,甚至採取了「恐懼營銷」策略。

近兩個月來,Anthropic限制了其最先進模型「Mythos」的發布,以便在公開發布前完善網絡安全補丁。Anthropic宣布將在「未來幾周內」推出性能相當的模型,而競爭對手預計也將發布類似的系統。

該公司在其提議辯護時,披露了一些內部數據,指出未來可能實現「遞歸自我改進」(auto-amélioration récursive),即人工智慧系統將具備訓練其後續版本的能力,而人類在此過程中的參與度將降低。

2026年6月1日星期一,在舊金山舉行的Snowflake Summit26大會上,Anthropic聯合創始人兼總裁丹妮拉·阿莫迪(左)在主題演講期間與Snowflake執行長斯里達爾·拉馬斯瓦米交談。 AP Photo/Jeff Chiu- Jeff Chiu

該公司理性地表示:「目前沒有任何保證表明這種轉變即將來臨」,但「如果目前的趨勢持續下去」,這在未來將變得「具有可能性」。公司認為,這既是醫學、技術和經濟領域的飛躍,同時也伴隨著「失控」的風險。

責任編輯: 方尋  來源:RFI 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2026/0606/2392507.html