新聞 > 科教 > 正文

科企高層及專家大聯署!AI將滅絕人類 立刻管控

—專家警告:人工智慧可能威脅人類存亡

法新社報導,包括阿特曼(Sam Altman)在內的數十位專家連署了一份簡短聲明。聲明稱,應對AI帶來的人類滅絕風險,應是「與應對疫情和核戰同層級的全球優先要務」。阿特曼的公司OpenAI研發了ChatGPT聊天機器人。 ChatGPT可以依據簡短指令編寫文章、詩歌和對話,因此在去年底一炮而紅。這個程式的巨大成功也吸引了AI領域數十億美元的投資,但批評者和業界人士都發出了警告。

多名人工智慧(AI)企業高層、當中包括OpenAI行政總裁奧特曼(Sam Altman)5月30日與專家及學者發聯署信,就人工智慧導致人類滅亡的風險表達憂慮,他們敦促各國將人工智慧所帶來的風險與疫情全球大流行及核戰看齊。

路透社及天空新聞報導,除了奧特曼,其他參與聯署的超過350人包括DeepMind、Antjropic的人工智慧公司行政總裁、微軟(Microsoft)及Google高層、兩名被稱為「AI教父」的欣頓(Geoffrey Hinton)和本吉奧(Yoshua Bengio),以及來自哈佛及清華等大學的學者。

他們指出,減低人工智慧帶來的滅絕風險,應與疫情大流行及核戰等其他社會風險一視同仁。該中心表示,希望可以為此引起討論,並批評Facebook的母公司Meta沒有參與聯署。

Tesla行政總統馬斯克(Elon Musk)及一批人工智慧專家和業界高層曾在4月率先就它的潛在風險表態,而欣頓日前更認為,人工智慧對人類的威脅,可能比氣候變化高。奧特曼原本曾批評歐盟的立法監管人工智慧計劃過嚴,一度揚言撤出歐洲,但惹來外界的口誅筆伐,他其後改變主場,並會在6月1日與歐盟委員會主席馮德萊恩(Ursula von der Leyen)會面,預計人工智慧會成為討論話題之一。

專家:AI可能威脅人類存亡應獲大流行與核戰同等對待

OpenAI與Google Deepmind負責人在內的專家們警告指出,人工智慧(AI)可能導致人類的滅絕。

BBC報導,數十位AI科學家與其他知名人士在AI安全中心(CAIS)網頁上刊登的一分聲明簽名。該聲明指出,「緩解AI帶來的滅絕危險應該跟大流行與核戰等其他社會性規模危險一起成為全球優先事項」。報導稱,這段簡潔的聲明旨在克服「可能難以表達對部分先進AI最嚴重風險的擔憂」此一障礙,並且開啟討論。

在聲名下方署名的學者與公眾人士包括早先對超智能AI(super-intelligent AI)帶來風險發出警告的辛頓(Geoffrey Hinton)博士、蒙特婁大學電腦科學教授班吉歐(Yoshua Bengio)、Google Deepmind執行長哈薩比斯(Demis Hassabis)、ChatGPT研發商OpenAI執行長奧特曼(Sam Altman)跟AI新創企業Anthropic執行長阿莫迪(Dario Amodei)。

、OpenAI與Google Deepmind負責人在內的專家們警告指出,AI可能導致人類的滅絕,應該跟大流行與核戰等其他社會性規模危險一起成為全球優先事項。(路透)

辛頓、班吉歐與紐約大學教授楊立昆(Yann LeCun)因為在深度學習領域的開創性研究,並因此共同於2018年贏得表彰電腦科學領域傑出貢獻的圖靈獎,讓外界經常稱3人為「AI教父」。但不同於辛頓與班吉歐,也在Meta工作的楊立昆認為,這些世界末日級警告是過慮了。

許多其他專家同樣認為,AI消滅人類的恐懼不現實,並且將注意力從已經成了問題的系統內偏見等議題分散。普林斯頓大學電腦科學教授納拉亞南(Arvind Narayanan)此前告訴過BBC,類似科幻的災難情景不實際,「目前的AI遠遠沒有足夠的能力讓這些風險成形,因而將注意力自AI的短期危害轉移離開」。

責任編輯: 時方  來源:RFI 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2023/0531/1908493.html