微軟（Microsoft）人工智慧（AI）業務負責人穆斯塔法·蘇萊曼（Mustafa Suleyman）周四（9月17日）警告說，如果缺乏足夠防護措施，人工智慧可能催生出一種與人類相抗衡的新型「矽基物種」（silicon species）。
質疑Anthropic訓練AI方式
據英國廣播公司（BBC）報導，蘇萊曼在接受採訪時表示，微軟的競爭對手Anthropic公司對待人工智慧的方式過於「擬人化」。他將這種做法形容為是在「誤入歧途」。
他說：「如果我們所有人都去打造能夠自主行動、自行設定目標、賺錢、擁有資產、經營企業的人工智慧，我們實際上是在培育一個全新的矽基物種，而這個新物種無疑將會與我們爭奪資源。」
他在本周早些時候發表的一篇文章中，對Anthropic公司訓練聊天機器人Claude的方式提出了質疑。
他批評Anthropic教導Claude表現出類人特質，鼓勵其展現「擬人化」特質及人際關係，運用自身判斷力，並以好奇與開放態度面對自身存在。
蘇萊曼表示，這使AI系統顯得仿佛擁有欲望、價值觀與自我意識，最終可能催生人類難以掌控的技術。
強調人工智慧應從屬於人類
關於人工智慧應該擁有多少自主權的問題，正在業界引發分歧。
蘇萊曼指出，民眾對人工智慧感到擔憂是「理所應當」的，但「我們確實有一些非常切實可行的辦法」可以對之加以控制，未來的AI系統應該始終「從屬於」人類。
蘇萊曼呼籲實現「對齊」（alignment），創造出必須「服從」人類的科技。所謂「對齊」，是指將人類道德理念與原則植入AI領域的研究，目標是讓AI發展方向不脫離人類的價值觀。
他強調，人工智慧並不具備意識，「它們不會感受、不會體驗，也不會承受痛苦。它們沒有與生俱來的偏好，也沒有內在的動機。它們是序列補全引擎，內在是空洞的，其設計目的是遵循指令，完成人類設定的目標。」
蘇萊曼表示：「好消息是，只要是人類，都會有極為強烈的共同利益，去確保我們打造且在全球各國使用的系統，都是安全、可控的且服從人類的。」
他呼籲提高巨頭公司在訓練與評估AI方面的透明度，包括獨立審查其行為及開發更強大的監督工具。
蘇萊曼同時稱讚Anthropic執行長達里奧·阿莫代伊（Dario Amodei）及其團隊的思慮周全、誠實正直，並表示，雖然雙方有分歧，但共同目標是為全人類開發更安全的AI技術。
圖為資料照。2025年4月4日，微軟人工智慧執行長穆斯塔法·蘇萊曼（Mustafa Suleyman）在華盛頓州雷德蒙舉行的微軟AI工具Microsoft Copilot發表會上發言。