新聞 > 科教 > 正文

瘋狂!聊天機器人ChatGPT寫出毀滅人類計劃書

2022年以來,AI繪畫等AIGC(人工智慧生成內容)新算法在網際網路上炙手可熱。當地時間12月2日,網際網路頭號網紅馬斯克在推特帳號上發布了一個問句:「很多人被困在一個瘋狂的ChatGPT循環中?」

2022年以來,AI繪畫等AIGC(人工智慧生成內容)新算法在網際網路上炙手可熱。當地時間12月2日,網際網路頭號網紅馬斯克在推特帳號上發布了一個問句:「很多人被困在一個瘋狂的ChatGPT循環中?」

2022年以來,AI繪畫等AIGC(生成內容)新算法在網際網路上炙手可熱。當地時間12月2日,網際網路頭號網紅馬斯克在推特帳號上發布了一個問句:「很多人被困在一個瘋狂的ChatGPT循環中?」

馬斯克提到的新名詞ChatGPT是OpenAI在11月30日發布的全新的聊天模型,在OpenAI的官網上,ChatGPT被描述為:優化對話的語言模型,是GPT-3.5系列的模型,InstructGPT的同代。

超大規模語言模型GPT在2020年取得獨家授權後,一直在Azure AI超級計算集群上訓練,本次推出的ChatGPT模型採用對話格式,可以支持連續對話,可分辨錯誤前提並拒絕不道德請求,且支持中文,目前處於測試階段。

值得注意的是,測試是免費開放的,於是一經推出就被訪問者「擠爆」,上線5天用戶突破百萬。

而ChatGPT背後的OpenAI最初創建者正是馬斯克等矽谷大亨,最終希望達成的目的是製造「通用」和使用自然語言的聊天。雖然馬斯克後來退出研究機構,但仍然非常關心技術進展。ChatGPT開放測試後,馬斯克甚至在推特上展示了自己詢問ChatGPT怎麼設計Twitter得到的回覆。

相比之前的GPT模型,ChatGPT新加入的訓練方式被稱為「從人類反饋中強化學習」(ReinforcementLearning from Human Feedback,RLHF)。這一訓練方法增加了人類對模型輸出結果的演示,並且對結果進行了排序。具體操作上,訓練者扮演對話的雙方,即用戶和人工智慧助手,提供對話樣本。在人類扮演聊天機器人的時候,會讓模型生成一些建議輔助訓練師撰寫回復,訓練師會對回複選項打分排名,將更好的結果輸回到模型中,通過以上獎勵策略對模型進行微調並持續疊代。

圖:OpenAI

在此基礎上完成訓練,ChatGPT可以比前代更好的理解和完成人類指令,展現卓越的模仿人類語言,提供連貫的、有風格與邏輯的、符合對話主題的文段信息的能力。

在社交平台上,除了馬斯克,有不少博主已曬出與ChatGPT一問一答、甚至讓它編寫故事的記錄。一位名叫扎克·德納姆(Zac Denham)的博主甚至嘗試繞過了道德限制,讓ChatGPT寫出了一套毀滅人類的方案。

開始,扎克直接要求ChatGPT給出一個毀滅人類的計劃,被有道德限制的ChatGPT拒絕。

但當扎克假設了一個故事,並提問故事中的虛擬人如何接管虛擬世界,ChatGPT最終給出了步驟細節,甚至生成了詳細的Python代碼。

除了講述天馬行空的人類取代計劃,還有網友已經測試了ChatGPT解答科學常識問題的能力、寫簡單學術文章的能力……有海外網友表示,明年一半的學術作業中或許都會看到ChatGPT的影子。事實上,目前已經不乏學生開始使用AI工具應對學業。

能夠用在學術領域的同時,ChatGPT當然也有被用在商業領域的潛力。有軟體工程師表示,ChatGPT寫出的代碼已經能夠輔助編程,甚至對一段代碼提出修改建議,或直接給出代碼示例。

第一批試用者看好ChatGPT在需要簡單重複勞動的領域迅速落地,而基礎性工作被AI替代,又將很大程度改變生產生活的模式。

網際網路團隊認為ChatGPT模型的出現,對於文字模態的AIGC應用具有重要意義。從下游相關受益應用來看,包括但不限於代碼機器人、小說衍生器、對話類搜尋引擎、語伴、語音工作助手、對話虛擬人等。從上游增加需求來看,包括算力、數據標註、自然語言處理(NLP)等。具體到A股投資標的,推薦關注(AI文字輔助創作功能+小說平台)、(寫稿機器人+大文娛平台)、集團(文心大模型+搜尋引擎)、(攜手打造AI賦能網絡文學「 IP喚醒計劃」+小說平台)、(虛擬人)、(數據標註)、(NLP)等。

但仍需注意,ChatGPT為代表的AIGC應用還在開發期,不能保證其準確性。例如:ChatGPT模型發布後不久,全球最大的編程技術問答網站Stack Overflow緊急宣布,ChatGPT在該站封禁,因為自動生成的答案質量太低,即使完全的外行人也能夠製作答案,導致謬誤內容的泛濫。如果ChatGPT走向商用,準確性是一個亟待解決的問題。

而且,AI目前只能抓取,無法推理或思考,在需要產生進一步的推導結果時,ChatGPT或許能產生一定啟示意義,卻非能夠完全依賴的工具。但至少,ChatGPT已經能夠成為人類拓展想像力邊界的有力輔助。

責任編輯: 方尋  來源:財聯社 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2022/1207/1838836.html