美國人工智慧公司Anthropic有一套很高尚的原則。
Claude可以幫助美國國防部分析情報，可以模擬戰爭，可以協助作戰規劃，也可以參與網絡行動。但是有兩件事，Anthropic說不行：大規模監控美國人，以及在沒有人類控制的情況下讓AI自主選擇和攻擊目標。
美國政府說，只要行為合法，軍隊怎麼使用美國公司製造的AI，最後應該由美國政府決定。
Anthropic不同意。
這不是嘴上說說。為了原則，它可以不要生意，可以和五角大樓翻臉，可以打官司。一個私人企業面對世界最強大的軍事機器，堅持說：這是我的模型，我有我的價值觀。
很有風骨。
然後路透社調查了八十多篇中國論文和專利，發現另一幅有趣的畫面：中國軍事研究人員已經在利用包括美國模型在內的先進AI能力，訓練自己的小模型，用途涉及代碼、無人機、目標識別和軍事模擬。
其中甚至出現了Claude。
這就有一點黑色幽默了。
美國軍方走正門，簽合同，報身份，說我要合法使用。Anthropic站在門口認真檢查：這個可以，那個不可以；這一項違反我們的原則，請五角大樓同志理解。
中國軍事研究人員當然不會如此客氣。他們本來就在禁止名單里。怎麼進去的？第三方帳號也好，境外渠道也好，蒸餾也好，總之論文已經出來了。
Anthropic當然不是完全沒有防範。它禁止中國獲得商業訪問，也研究反蒸餾技術，也會封違規帳號。這一點必須講清楚。
但荒誕之處恰恰不在於它有沒有規定，而在於規則最後約束了誰。
美國軍方是守規則的，所以最好管。中國軍事機構如果決心繞規則，就難管。於是越守規則，Anthropic的價值觀越能準確落在你頭上；越不守規則，大家只能繼續研究技術辦法。
這是一種很現代的道德奇觀。
好比一座城鬧賊。保全對業主宣布：為了社區安全，你家的廚房刀具必須登記，八寸以上不許使用。
業主問：昨晚翻牆進來的賊呢？
保全說：我們強烈禁止翻牆，而且正在研究更先進的圍牆。
邏輯沒有錯。
效果很有喜感。
真正的問題並不是Anthropic有沒有權制定自己的產品規則。私人公司當然可以有原則。問題是，當一種技術已經成為國家戰略能力的一部分，而競爭對手正在千方百計取得這種能力時，所謂「AI安全」最終不能只檢查自己的道德姿勢，還要檢查安全結果。
如果結果是美國軍方受到的限制確定、直接而且可以執行，中國軍事機構受到的限制正確、莊嚴但不斷有人繞過，那麼至少應該問一句：
這套安全機制最後主要防住了誰？
美國這些年很喜歡把國家戰略問題轉化成價值觀問題。企業有企業倫理，大學有大學倫理，科技界還有自己的世界倫理。人人都比政府更懂人類未來。
這當然很文明。
只是國際競爭有一個令人不舒服的特點：對手沒有義務參加你的倫理研討會。
你可以要求自己的軍隊在門口脫鞋，對方卻可能已經從窗戶爬進廚房。
所以Anthropic現在面對的最好測試，不是再發表一篇聲明解釋為什麼自己的原則高尚，而是既然已經知道中國軍事研究機構在設法利用Claude，就拿出與對付五角大樓同樣認真的精神，追渠道、堵帳戶、反蒸餾、查代理。
否則再漂亮的「負責任AI」，最後都可能產生一個非常不漂亮的結果：
君子被規則管得很好。至於不做君子的人，正在研究你的規則。
