新聞 > 科教 > 正文

與核戰同樣危險 AI專家警告:AI恐致「人類滅絕」

研發ChatGPT聊天機器人的公司OpenAI執行長阿特曼(Sam Altman),與數十位專家,連署了一份簡短聲明,警告全球領導人應致力降低人工智慧(AI)技術所帶來的「人類滅絕」風險。

研發ChatGPT聊天機器人的公司OpenAI執行長阿特曼(Sam Altman),與數十位專家,連署了一份簡短聲明,警告全球領導人應致力降低人工智慧(AI)技術所帶來的「人類滅絕」風險。

阿特曼與數十位專家連署一份聲明,警告全球領導人應致力降低人工智慧(AI)技術所帶來的「人類滅絕」風險。資料照片

公布在非營利組織「人工智慧安全中心」(Center for AI Safety, CAIS)網頁的這份最新聲明,應對AI帶來的人類滅絕風險,應是「與應對疫情和核戰同層級的全球優先要務」。

阿特曼公司的ChatGPT可以依據簡短指令編寫文章、詩歌和對話,因此在去年底一炮而紅。這個程式的巨大成功也吸引了AI領域數十億美元的投資,但批評者和業界人士都發出了警告。

常見的擔憂包括聊天機器人可能導致假消息充斥網絡、帶有偏見的算法可能產出種族主義內容,AI驅動的自動化也可能摧毀整個產業等。

CAIS公布的聲明。翻攝CAIS官網

CAIS的聲明並未詳細說明AI可能帶來的潛在生存威脅,但該組織表示,聲明旨在開啟針對AI技術風險的討論。

聲明的數名簽署人,包括被稱為「人工智慧教父」的辛頓(Geoffrey Hinton),過去也曾提出類似警告。

他們最大的擔憂是所謂「通用人工智慧」(Artificial General Intelligence,AGI)的崛起,也就是具備人類認知能力的人工智慧。

馬斯克也曾發表公開信,呼籲在確定安全無虞之前,暫緩AI研發工作。資料照片

他們害怕,人類將失去對這些超智慧機器的掌控權。專家曾警告,這可能對物種和地球造成災難性後果。

聲明的連署人也包括來自AI領先企業谷歌(Google)和微軟(Microsoft)的專家。

早在2個月前,億萬富豪馬斯克(Elon Musk)和其他數百名專家也曾發表一封公開信,呼籲在確定安全無虞之前,暫緩AI研發工作。

然而,馬斯克的信引來廣泛批評。有人認為,信中關於社會和文明崩潰的警告太過誇大。

責任編輯: 楚天  來源:壹蘋新聞網 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2023/0530/1908178.html