評論 > 動態 > 正文

海邊的西塞羅:GTP-4來了,「奇點將至」對我們會有多麼致命

作者:

但第二天早上醒來,新出現的消息將是——人工智慧已經急速進步,取代了人類的大部分工作,而你則成了尤瓦爾·赫拉利在《未來簡史》中所預言的那種「無用之人」。

庫茲韋爾將這個人工智慧將發生「超進化」的時刻,稱之為「奇點」。

在奇點之前,人工智慧需要依託人類去改進自己、不斷完成進化。但「奇點」之後,人工智慧可以依靠人工智慧本身去完成自我改進,從而產生恐怖的「自激效應」,它的演化速度將超過人類的理解能力——就像數學上的奇點、物理學上的黑洞是我們常人理解的禁區一樣。

而現在,在庫茲韋爾的書寫了十幾年後,我們似乎感覺到了他的預言正在一步步成為現實。人工智慧,真的如他所預言的那般——奇點將至

在上個月的《我不擔心ChatGPT搶我飯碗,但我擔心那件更要命的事》一文當中,我曾經聊過ChatGPT的事情。

中國數字時代文章備份:《我不擔心ChatGPT搶我飯碗,但我擔心那件更要命的事》

一個多月前,這個人工智慧聊天軟體用它的革命性創新震驚了整個世界。但讓人沒想到的是,僅僅一個多月之後,它的升級版本GPT-4就出來了。簡單的說,這是一個ChatGPT的「升級款」,但相比前作GPT-3,GTP-4更強大,更聰明,更專業。它不僅能夠聊天、寫詩、寫代碼,還能分析圖像,處理8倍於之前的文本。在SAT和模擬律師資格考試中,GPT-4打敗了90%的人類考生,而在美國生物奧賽(USABO)中,打敗了99%的考生。當然GTP-4還沒有達到完全「超神」的水平,按照大V和菜頭的總結,GTP-4這一次是從7歲幼童的心智,發展到18歲優等生的能力,而這中間「僅僅過去了一兩個月時間」。

那麼下一個問題是,人工智慧的心智從一個18歲的優等生,到一個25歲、研究生畢業的合格人工智慧工程師又要花多少時間?

如果達到了這個標準,人工智慧是否就能實現庫茲韋爾所預言的那種不依託人類的「自我改進」「自我進化」,從而導致奇點來臨呢?

我不是相關專業的研究者,我不好亂說,但我依稀記得庫茲韋爾所預言的「奇點時間」是2045年。

我現在無比希望他說話算話。

因為現在看來,似乎人工智慧的「奇點」到來,已經用不了那麼久了。

科技的發展不是「勻速」的,同樣,它給人類帶來的影響,也不是「勻質」的。

提到人工智慧超越人類時,我們很容易陷入一種泛人類主義的宏大敘事當中,即空泛的討論一旦人工智慧超越人類,「全人類」會面臨什麼什麼樣的影響,但就像前文我們提到的19世紀末海軍技術爆炸意外決定中日兩國之後半個多世紀國運興衰一樣。不「勻質」的科技進步,給人類不同群體帶來的影響,很可能也是不「勻質」的。就階層而言,人工智慧奇點的到來,很可能會如赫拉利在《未來簡史》中說的那樣,拉大而不是縮小階層之間的差距,讓大量人口成為「無用之人」。而就國家而言,率先摘到這個「低垂之果」的國家很可能也會對它的對手產生碾壓性的優勢。

這種未來其實特別像劉慈欣在《三體》中所討論過的與外星人接觸的問題。在《三體》第一部中,作者曾經點明人類與外星人的接觸一定是不「勻質」的,率先與外星人接觸的國家可能獲得相比其他國家無可比擬的「突變型技術優勢」。這是小說中紅岸基地建立的根本原因——各國在認識到接觸帶來的影響「不勻質」之後,要爭奪優先接觸權。

而在現實中,我們其實可以認為,一旦「奇點」來臨,人工智慧就是生活在地球上的、虛擬世界中的「外星人」。率先「接觸」(發明)這種超人工智慧的人,將教會它怎樣認識這個世界,而它擁有什麼樣的世界觀,很大程度上也許將決定世界格局的未來走向。

舉一個最簡單也最現實的例子,現在大家都很關注俄烏戰爭,關注俄烏在巴赫穆特的戰損比,雙方今天又死了多少人,西方給烏克蘭的軍援何時到位等等問題。

但假設(只是單純的假設)人工智慧的「奇點」明天來臨,那個進化出來的超人工智慧站在美國人理解問題的角度給烏克蘭支一個我們人類智能設想不到的招數或者黑科技。可能這場戰爭立刻就結束了。

是的,如果人工智慧是人類手造的「計算中的上帝」,它將用它超人的智慧來決定我們的生活,那麼一個非常重要的問題是——這個「上帝」會先聽誰說話?

奇點降臨給現代戰爭和國際博弈帶來的影響,將絲毫不亞於當年的廣島原子彈對工業時代戰爭規則改變。

所以我們也許終將面臨「奇點」,但在「奇點」面前,不同階層、不同群體的人類將面臨的未來也許是迥然相異的。就像19世紀末的海軍技術革命,給北洋水師和日本海軍帶來的命運完全不同一樣。

特別巧合的是,昨天(3月16日),百度也正式發布了它對標chatGPT的智能聊天軟體「文心一言」,老總李彥宏親自登場為這個產品做了介紹。

但在我看來,這款產品雖然足夠「黑科技」,發布會本身卻是很難算得上成功的,李總說話的時候你都能感覺到他有那麼一絲絲氣場不足,雖然他在視頻中也展示了「文心一言」在文學創作、商業文案創作、數理邏輯推算、中文理解和多模態生成等幾方面堪稱亮眼的能力,但做的只是視頻展示,而沒敢把軟體拿出來跟觀眾做現場互動——我相信如果「文心一言」的「聊天」能力能與chatGPT比肩、或者哪怕只差一小部分的話,這個展示做出來是最有說服力的。但最後他沒做,不知是不是受了GPT-4的影響,認識到又被海外「友商」甩了一節。

聽著李彥宏先生的演講,我突然想到了一件事情。中國企業、尤其是網際網路企業前些年突飛猛進的發展,很大程度上,其實是一場「新·洋務運動」,國外同類企業有個什麼已經被驗證為可行的新東西,我們照著原樣復刻過來、稍作修改,做個中國版,往往會比他們還要火、還要賺錢。

因為中國這個市場是具有先天的體量優勢,而過去幾十年國際科技的發展好歹是相對「勻質」的,時間上差一點,在技術上也只是差一點。我們可以依靠體量的優勢彌補技術上的代溝。

這是「BAT」之所以成功的根本原因。

但在未來,即便拋開中美「脫鉤」這種最壞的前景不談,考慮到「奇點將臨」,技術發展速度有可能呈指數型增長這個要素,這種模式很可能就將過時了。

因為在技術加速的大背景下,你在時間上差一點,在技術上可能就會差很多。人家那邊都已經革新到GPT-4了,你這邊剛出一個「文心一言」。這還怎麼趕趟呢?

在這種環境下,體量巨大和發展環境相對封閉獨立,反而會成為中國網際網路企業進一步生長的一個劣勢。因為它會拉開我們與先進國之間的「時差」。

所以代溝問題,將來有可能成為曾經成功的中國網際網路各大巨頭未來所面臨的棘手難題。

解決這個難題的唯一辦法,也許只有更加迅速的學習和更大力度的開放,用把自己融入世界革新之潮的方式,消解被對手甩開技術代溝的致命隱患。

而從這個角度講,這幾年中國網際網路上一些人滋生的很多虛驕之氣,認為中國通過開放對先進國家的技術學習已經「得矣、得矣」,甚至暢想依靠體量優勢完成「彎道超車」……這種思潮來的很不是時候。它有點像十九世紀八十年代的北洋水師在花巨資買了一批當時最先進的軍艦之後,覺得自己是「亞洲第一、世界第六」了,然後想依靠這種「先進」吃老本。

開放不是一種一次性的舉動,而是一個必須長期維持下去的互動過程,科技進步的腳步不會為任何人停下來。

驕傲未必是一種罪,人可以在很多時候驕傲,但在一些特殊的節骨眼上不合時宜的驕傲,將是致命的。

也許明年、下個月,甚至明天,下一場技術爆炸、甚至那個預言中的「奇點」就會來臨。就像沒人想到火炮的制退附近機這個小零件,會引爆一場海軍革命一樣,沒人能預判到下一個加速奇點到來的技術突變會是什麼,但我們知道,遊戲規則一定會因之改變。

奇點將至,它會改變所有人的生活,但這種改變不是勻質的,每個人都將在奇點前面臨不同的命運,對故步自封的人,它最為致命。

保持飢餓,保持愚蠢;保持和平,保持開放。冷靜、謙虛、客觀而謹慎的看待這個世界。

這將是我們在這個時代得以生存下去的必由之路。

責任編輯: 李廣松  來源:海邊的西塞羅 轉載請註明作者、出處並保持完整。

本文網址:https://tw.aboluowang.com/2023/0318/1878762.html