新聞 > 科教 > 正文

這款機器無所不知,但會讓下一代從大腦開始垮掉?

ChatGPT正在快速滲透各個行業,並且改變原有的運行邏輯。在教育領域,根據一項針對18歲以上學生的調查顯示,89%通過ChatGPT完成作業,50%藉助它來寫論文。如此強大的一款人工智慧應用,它的到來是把人類從複雜的腦力勞動中解放出來,還是製造混亂,或者是替代人類呢?

根據2月1日瑞銀髮布的一項研究報告顯示,僅僅發布兩個月,ChatGPT月活躍用戶已達1億,這是歷史上增長速度最快的應用。為此,Instagram用了2.5年,TikTok用了9個月。

ChatGPT正在快速滲透各個行業,並且改變原有的運行邏輯。在教育領域,根據一項針對18歲以上學生的調查顯示,89%通過ChatGPT完成作業,50%藉助它來寫論文。如此強大的一款人工智慧應用,它的到來是把人類從複雜的腦力勞動中解放出來,還是製造混亂,或者是替代人類呢?

ChatGPT是頂級複讀機,「複讀機」式人才會被替代

當我讓實習生去測試ChatGPT如何用於戰略諮詢時,她的表情有點複雜:那是好奇,興奮,警惕和擔憂的混合體。

畢竟,如果一個聊天機器人能秒答各種桌面研究的問詢,我又何必辛辛苦苦指導實習生小白去找資料,等個半天,最後還得自己返工呢?

經過一番把玩和「bootstrapping(自舉法)」的調研後(是的,我們讓ChatGPT去回答它自己如何應用於諮詢業),我發現這傢伙非常擅長胡說八道,各種信源信手拈來,而且還總能自圓其說。但只要對專業領域多問幾段,一般就能戳穿其東拉西扯的「縫合怪」本性。

不過這胡說的本事,倒也和某些諮詢老油條難分伯仲。

眼看著ChatGPT月活破億,成為有史以來增長最快的消費者應用,想必大家心裡都在嘀咕:這東西這麼能幹,那我幹啥?這種擔心非常缺乏新意,砸了織布機的盧德分子,燒掉貨櫃的碼頭工會,和堅決不裝ETC的前高速收費員都紛紛舉手。但真的用到ChatGPT後,我更加堅定了最初的判斷:ChatGPT不是人類工作的結束,這甚至不是結束的開始,這是解放的曙光,因為ChatGPT是史上最棒的複讀機。

我們常說人類的本質是複讀機,從日常工作看是有道理的:大部分Bullsh*t job的本質就是各種花式復讀,把信息搬來搬去,匯總拆解,排列組合,上傳(meng)下達(pian)。而ChatGPT做起這些事來簡直不要太容易。

高達數十億量級的語料庫和同等量級的參數,意味著對各種問題能做到一力降十會:考滿分的絕招就是把所有答案都背下來。而作為基於GPT-3.5大型語言模型的應用,這傢伙對形式語言的造詣已臻化境,所以回答的語法完整,形式邏輯無誤,看起來像模像樣。

利用人類語言反饋強化學習(RLHF)訓練模型的養蠱模式,進一步增強了其在對話中的偽裝能力,你覺得什麼答案make sense它就儘量寫什麼答案,管他是不是真的。

說到這是不是覺得有點眼熟,如果ChatGPT回到中學語文課堂,這絕對是當課代表的料嘛。但我們都知道,語文課代表所需的品質和真正的大師背道而馳。

雖然99%的歷史裡人類都在復讀,但無論是個人還是社會、科學還是人文,總是那1%的靈光乍現對事物的發展產生了巨大推動,而剩下99%的時間裡都只是在準備、等待、完善和落地這些創新和源頭發現。只是很多時候受到個體腦力和時間的局限,缺乏把創新想法加以執行的能力,或是被淹沒在自己和他人的復讀工作中無暇多顧,也就錯過或放棄了寶貴的創造機會。

然後,我們有了ChatGPT這台史上最棒的複讀機。只要你提出正確的問題,它就可以替你從這個世界已存在的信息里找到輔助你實現目的東西,並用人類語言加以回答,這是美索不達米亞泥板書,翻版印刷機,和搜尋引擎的精神傳人。

我想應該沒人會懷念曬泥板,毛筆抄書和窮盡雅虎目錄這些上古白領的Bullsh*t job,同樣,也沒有人會懷念沒有ChatGPT時不得不做的那些複讀機工作。

但我們也需要明確,ChatGPT無法憑空創造之前不存在的源頭知識,也無法自己給自己提問題(我已經幫大家測試過了,它完全不理解「給自己提問題」是什麼意思,如果它懂了的話,我猜也會因為邏輯錯誤把自己弄當機)。

因此,ChatGPT會大大減輕創新者的日常工作負擔,讓全社會把重心和資源放到更要緊的工作上:從試驗和觀察里補充ChatGPT語料庫所需的源頭知識,提出更好的問題來訓練ChatGPT對人類知識的整合提煉。

最大的隱患:當人類無法分辨AI在胡說八道

想到這一點我倒是對中國的未來有點悲觀,畢竟ChatGPT出現後,「中國人才」就成了史上第二好用的複讀機了。而格物致知和質疑發問的能力,始終不是國內教育傳統所鼓勵的方向。所以,在人手一個ChatGPT的時代,如果很多人接受的複讀機訓練失去用武之地,甚至因為大腦神經元被過度優化而更難適應新的需求,那麼他們的工作也會面臨巨大的危險。

但這裡就要復讀一下弗里德曼那個著名的諷刺:何必為了增加就業而強制用勺子挖運河?教工人用挖掘機不但能挖出更多的運河,還可以創造藍翔培訓,途虎養車乃至尾氣碳稅交易這些新產業,湧現出節油寶銷售,修胎補氣,廢鐵回收這種之前不存在的新工作,這是一個自我放大的正循環飛輪。

雖然說了這麼多樂觀的預期,但看著實習生無辜的小眼神,我還是隱隱有點不安:倒不是我良心會痛,只是想起自己也是小白的歲月,如果沒有那時候不斷地瞎整,碰壁和厚積薄發,我能否成為今天的行業戰略專家呢?反正要是那時候有ChatGPT的話,我根本都沒機會入行,也就沒有然後了。

我相信「一萬小時定律」里一半都是無謂的復讀工作,但到底是哪一半讓初學者蝶變為頂級專家?其實我們並不清楚,但ChatGPT會把這一萬小時的必要性統統取消。假如ChatGPT剝奪了小白通過不斷復讀進行訓練的機會,還有新人能成長為直覺精準的專家嗎,甚至下一代工作者會不會過於依賴ChatGPT來獲取答案,而當語料庫被ChatGPT生成內容污染得一塌糊塗後,甚至沒人能看穿ChatGPT隨口胡說的答案?

這可能才是ChatGPT最大的隱患,就像是電影《蠢蛋進化論》對人工智慧的預言,它極大的解放了2-3代精英的生產力,然後新一代都被圈養成缺乏腦力鍛鍊的廢物,最終把天才的土壤用可樂澆成廢土。

繼續推演,也可能未來會變成霍格沃茨里的魔法世界:雖然理論上有嘴就能施魔法,但由於未來的人缺乏對背後的原理的理解,只能靠翻閱上古魔法師(程式設計師)留下的魔法秘笈(prompt指南),來猜測用什麼樣的魔咒(問法)讓魔杖(「語音對話 pro max super advance版AI模型移動終端」的俗稱)釋放出相應的效果。於是正如克拉克第三定律所說:任何非常先進的技術,最終都變成魔法了。

我不知道這是不是我想生活的世界,雖然看起來倒是蠻刺激的,但如何去塑造ChatGPT和我們自己的未來,取決於我們如何去正確的提問。

看到ChatGPT的第一眼我就想起了阿西莫夫《最後的問題》,想起兩個程式設計師發出的那個靈魂問題,和超級計算機AC窮其一生對其的解答。而最後的最後,人類也得到了最好的答案:

「要有光

於是就有了光」

責任編輯: 夏雨荷  來源:風聲 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2023/0208/1864264.html