微軟（Microsoft）背景前一部手機屏幕顯示了人工智慧公司OpenAI的徽標。(LIONEL BONAVENTURE/AFP via Getty Images)
2022年以來，人工智慧（AI）技術飛速發展，從谷歌的DeepMind預測人體中幾乎所有已知蛋白質的結構，到OpenAI的生成性人工智慧助理工具DALL-E和ChatGPT的成功發布，但許多專家擔心AI可能對世界產生災難性影響。
據史丹福大學人工智慧研究所本月初發表的一份關於AI技術的年度報告，在參與調查的研究人員中，36%的人認為AI的影響不是積極的，他們警告說AI做出的決定可能導致「核級災難」。
雖然絕大多數研究人員說人工智慧和自然語言處理（計算機科學中與開發AI有關的分支）對未來的淨影響將是積極的，但人們仍然擔心該技術可能很快發展出潛在的危險能力，而傳統的守門人已不再像以前那樣強大。
根據該報告，大約3/4的自然語言處理研究人員表示，AI技術可能很快引發「革命性的社會變化」。
「隨著創建和部署生成性人工智慧系統的技術門檻急劇降低，對公眾來說，圍繞人工智慧的倫理問題變得更加突出」，報告說，「初創企業和大公司發現自己處於部署和發布生成模型的競賽中，該技術不再由一小群行為者控制。」
在過去的幾個月里，對AI的擔憂大多集中在該技術對社會的破壞性影響上。根據高盛上個月的一份研究報告，如果生成性人工智慧充分發揮其潛力，美國和歐洲有多達3億份工作面臨風險，其中法律和行政職業面臨的風險最大。
此外，生成性人工智慧也引發了人們對該技術不準確的擔憂。微軟和谷歌的人工智慧產品都經常做出不真實或誤導性的陳述。
與此同時，人工智慧的快速發展意味著沒有大膽創新的公司和個人可能會被甩在後面，而且該技術可能很快就會發展到人們無法想像的程度。
據史丹福大學的報告，57%的研究人員稱，以AI目前的發展速度，該技術正在從生成性人工智慧向創造人工通用智能發展。人工通用智能（AGI）是一種能夠準確模仿甚至超越人腦能力的人工智慧系統。
接受調查的史丹福大學研究人員中約有58%稱AGI是一個「重要的關注點」。如果AGI真的能夠成為現實，它將可能代表人類歷史和發展的一個開創性時刻，但當人類失去對該技術發展的控制時，人工智慧將獲得高於人類的智能。
調查發現，史丹福大學的專家們最關心的問題是當前的AI研究過於關注規模化、實現目標，而未能涵蓋其它不同的研究領域的考慮。隨著對AI技術更大影響的研究繼續進行，其他專家也提出了類似的擔憂，呼籲主要開發商放慢AI的發展步伐。
上個月，1,300名簽署者聯合發出一封公開信，包括馬斯克（Elon Musk）和史蒂夫·沃茲尼亞克（Steve Wozniak），他們呼籲6個月內禁止人工智慧公司開發更強大的版本。
