▲ChatGPT帶起的AI風潮，引發人類滅絕疑慮。（圖／路透）
OpenAI製作的ChatGPT為全球開創新局，不過近來共同創辦人奧特曼（Sam Altman）頻頻示警AI可能帶來的危險，該公司5日更表示，將建立一個新的研究團隊，確保人工智慧繼續保持對人類無害，最終將透過AI來監督AI自身的發展。
路透社報導，OpenAI共同創辦人蘇茨凱佛（Ilya Sutskever）與AI對齊負責人來克（Jan Leike）共同撰寫一則貼文，以嚴重措辭警告，「超級智能的巨大能力，可能導致人類喪失權力，甚至可能導致人類滅絕」，「目前，我們對於控制一個潛在的超級智能AI還沒有任何解方，也無法預防AI失控。」
文中預測，作為一個超越人類智能的系統，超級智能AI有可能在10年內誕生，人類需要比當前更厲害的技術來控制超級智能AI，代表必須在「對齊研究」上有所突破。文中指出，「對齊研究」是聚焦於確保AI如何持續對人類有益的研究。
由微軟支持的OpenAI正投入20％的計算能力，預計在未來4年內解決這項問題，該公司正針對這項任務籌組一個新的研究團隊。該團隊的目標是打造一個「人類等級」的AI對齊研究員，然後透過龐大的計算能力擴展它。
OpenAI表示，這代表將會以人類反饋的方式訓練AI系統，訓練AI系統協助人類評估，最終訓練AI系統實際上進行研究「對齊研究」。
AI安全倡導者黎溪（Connor Leahy）指出，OpenAI的計劃存在根本性缺陷，因為原始的人類等級人工智慧在被迫解決AI安全問題前，可能就會失控並造成破壞。
AI的潛在危險一直是相關人員甚至一般大眾擔心的問題，一群AI界領袖和專家，包括特斯拉創辦人馬斯克在內，今年4月曾共同簽署一封公開信，呼籲暫停開發比OpenAI「ChatGPT-4」更強大的系統，至少6個月的時間，理由是更先進的AI將可能對社會造成風險。