評論 > 動態 > 正文

海邊的西塞羅:GTP-4來了,「奇點將至」對我們會有多麼致命

作者:

科技的發展不是「勻速」的,它給不同人群帶來的影響,也不會是「勻質」的。

先講一個歷史段子。

一百多年前的甲午海戰中,北洋水師大敗虧輸,間接導致大清在於日本國運對賭當中戰敗。甲午海戰的北洋水師戰敗的原因當然是多方面的,但一個不可忽視的原因其實是,北洋水師「運氣不好」——沒趕上好時候。

北洋海軍的所有外購軍艦皆建於1888年前,在十九世紀九十年代前,西方海軍造艦技術的發展是相對緩慢的,後膛炮雖然逐漸取代了前膛炮成為海軍艦炮的主流,但由於炮閂技術尚且處在發展的初級階段,太多技術細節沒有完善,以至於艦炮的裝填速度非常之緩慢,以至於北洋海軍定遠、鎮遠二艦「五分鐘開一炮」的問題,在當時看來本來不是問題,而是一個司空見慣的軍事常識。

艦炮裝填速度慢這個事實,又間接決定了一系列事情——比如,由於炮打得慢,每開一炮需要重新瞄準,所以瞄準也可以慢慢來,所以當時艦炮技術也非常原始,還停留在海軍軍官拿著六分儀純手算的時期。

艦炮所使用的彈藥也多以實心或者摻了沙土的穿甲彈為主,為的就是萬一有一發能蒙中了,就能直接破壞對方艦船水密性,擊沉對方。

但日方的購艦潮始於19世紀80年代後期,他們幸運的趕上了「技術爆炸」導致海軍發生大發展、大變革的時代。

十九世紀八十年代末,原本只適用於小口徑艦炮的制退復進機技術趨於成熟並應用於大口徑艦炮的炮架改進,使得大口徑管退炮橫空出世。火炮的後座部分能在發射後利用自身的後座力自動恢復到原位。

這樣一個看似小小的技術革命改變了很多事——

比如自動復位省去了復位和重新瞄準的時間,使火炮的射速大為提高;

比如固定瞄準也讓更精確炮瞄計算變得有意義,於是炮瞄技術也加速革新了;

又比如自動復位還帶動了炮閂技術的革新,讓火炮發射速度從五分鐘開一炮迅速快進到一分鐘開五炮。

而快炮的誕生,又讓軍艦在海戰中更大比例的使用開花彈,通過戰鬥部火藥的爆炸和延燒來殺傷敵方有生力量成為可能。

而這又進一步導致了整個海軍造艦思路和作戰思路的逆轉……

你看,這就是技術的迷人之處,它會產生像核裂變那般的「鏈式反應」,一個小技術的革新會迅速引發一場劇烈的革命,就像核裂變中一顆中子就能引爆整個核彈一樣。

這就是「技術爆炸」的本質。

總之,就在清廷結束購艦而日軍開始加速購艦的這個節骨眼上,由一個看似微不足道的小技術革新所引發的一系列技術劇變的「鏈式反應」正在發生。

這個鏈式反應的終點,就是在甲午海戰中,清日兩軍看似都是鐵甲艦,但實則卻是兩種不同技術時代的產物,其內部的技術代溝甚至不亞於幾十年前英軍的風帆戰列艦對上同樣依靠風帆動力的清軍水勇,戰敗其實是理所當然的事情。

但是這個問題是當時的中國人,乃至後來很多戰史研究者所無法理解的,在他們看來,如果說鴉片戰爭中中國海軍的戰敗,是閉關鎖國百年的結果,落後這麼多還可以理解,那麼從北洋海軍在不到十年內就成為「老古董」,這怎麼可能呢?所以一定是李鴻章、丁汝昌指揮不力的鍋!北洋海軍一定不是「器不如人」而是「氣不如人」!

因為技術「鏈式反應」的特性,科技的發展,並不是勻速的。

百年後的今天,這個道理現在很多人都自以為自己懂,但很多人其實都沒「懂」的那麼深。

這裡推薦一本谷歌技術總監雷·庫茲韋爾寫的書,叫《奇點臨近》。

這本書寫於2005年,庫茲韋爾在這本書中首次描述了他所認為的人工智慧趕上並超過人類智能的過程是怎樣的。它並非很多人所認為的那種「勻質化」的過程:人工智慧現在(21世紀初)擊敗個西洋棋大師,過了十年又擊敗個圍棋大師,再過十年又如何如何。

不會的,庫茲韋爾預言,人工智慧的發展將遵循指數模式——

剛開始的時候,你覺得它的發展簡直是龜速,幾十年出個新進展。

後來稍微快了一點,十年前奪得國象桂冠、十年後擊敗圍棋聖手。

再後來又快了不少,前腳剛能處理你的語音、文字,隔了幾個月現在能識別圖像了。

而最終,人工智慧的進步速度,將超越人類的感知能力——某天晚上你臨睡前,手機蹦出一條消息,說人工智慧在編程水平上已經達到或超過普通程式設計師了,你不覺是什麼大事,沒看完消息就沉沉睡去。

[page]

但第二天早上醒來,新出現的消息將是——人工智慧已經急速進步,取代了人類的大部分工作,而你則成了尤瓦爾·赫拉利在《未來簡史》中所預言的那種「無用之人」。

庫茲韋爾將這個人工智慧將發生「超進化」的時刻,稱之為「奇點」。

在奇點之前,人工智慧需要依託人類去改進自己、不斷完成進化。但「奇點」之後,人工智慧可以依靠人工智慧本身去完成自我改進,從而產生恐怖的「自激效應」,它的演化速度將超過人類的理解能力——就像數學上的奇點、物理學上的黑洞是我們常人理解的禁區一樣。

而現在,在庫茲韋爾的書寫了十幾年後,我們似乎感覺到了他的預言正在一步步成為現實。人工智慧,真的如他所預言的那般——奇點將至

在上個月的《我不擔心ChatGPT搶我飯碗,但我擔心那件更要命的事》一文當中,我曾經聊過ChatGPT的事情。

中國數字時代文章備份:《我不擔心ChatGPT搶我飯碗,但我擔心那件更要命的事》

一個多月前,這個人工智慧聊天軟體用它的革命性創新震驚了整個世界。但讓人沒想到的是,僅僅一個多月之後,它的升級版本GPT-4就出來了。簡單的說,這是一個ChatGPT的「升級款」,但相比前作GPT-3,GTP-4更強大,更聰明,更專業。它不僅能夠聊天、寫詩、寫代碼,還能分析圖像,處理8倍於之前的文本。在SAT和模擬律師資格考試中,GPT-4打敗了90%的人類考生,而在美國生物奧賽(USABO)中,打敗了99%的考生。當然GTP-4還沒有達到完全「超神」的水平,按照大V和菜頭的總結,GTP-4這一次是從7歲幼童的心智,發展到18歲優等生的能力,而這中間「僅僅過去了一兩個月時間」。

那麼下一個問題是,人工智慧的心智從一個18歲的優等生,到一個25歲、研究生畢業的合格人工智慧工程師又要花多少時間?

如果達到了這個標準,人工智慧是否就能實現庫茲韋爾所預言的那種不依託人類的「自我改進」「自我進化」,從而導致奇點來臨呢?

我不是相關專業的研究者,我不好亂說,但我依稀記得庫茲韋爾所預言的「奇點時間」是2045年。

我現在無比希望他說話算話。

因為現在看來,似乎人工智慧的「奇點」到來,已經用不了那麼久了。

科技的發展不是「勻速」的,同樣,它給人類帶來的影響,也不是「勻質」的。

提到人工智慧超越人類時,我們很容易陷入一種泛人類主義的宏大敘事當中,即空泛的討論一旦人工智慧超越人類,「全人類」會面臨什麼什麼樣的影響,但就像前文我們提到的19世紀末海軍技術爆炸意外決定中日兩國之後半個多世紀國運興衰一樣。不「勻質」的科技進步,給人類不同群體帶來的影響,很可能也是不「勻質」的。就階層而言,人工智慧奇點的到來,很可能會如赫拉利在《未來簡史》中說的那樣,拉大而不是縮小階層之間的差距,讓大量人口成為「無用之人」。而就國家而言,率先摘到這個「低垂之果」的國家很可能也會對它的對手產生碾壓性的優勢。

這種未來其實特別像劉慈欣在《三體》中所討論過的與外星人接觸的問題。在《三體》第一部中,作者曾經點明人類與外星人的接觸一定是不「勻質」的,率先與外星人接觸的國家可能獲得相比其他國家無可比擬的「突變型技術優勢」。這是小說中紅岸基地建立的根本原因——各國在認識到接觸帶來的影響「不勻質」之後,要爭奪優先接觸權。

而在現實中,我們其實可以認為,一旦「奇點」來臨,人工智慧就是生活在地球上的、虛擬世界中的「外星人」。率先「接觸」(發明)這種超人工智慧的人,將教會它怎樣認識這個世界,而它擁有什麼樣的世界觀,很大程度上也許將決定世界格局的未來走向。

舉一個最簡單也最現實的例子,現在大家都很關注俄烏戰爭,關注俄烏在巴赫穆特的戰損比,雙方今天又死了多少人,西方給烏克蘭的軍援何時到位等等問題。

但假設(只是單純的假設)人工智慧的「奇點」明天來臨,那個進化出來的超人工智慧站在美國人理解問題的角度給烏克蘭支一個我們人類智能設想不到的招數或者黑科技。可能這場戰爭立刻就結束了。

是的,如果人工智慧是人類手造的「計算中的上帝」,它將用它超人的智慧來決定我們的生活,那麼一個非常重要的問題是——這個「上帝」會先聽誰說話?

奇點降臨給現代戰爭和國際博弈帶來的影響,將絲毫不亞於當年的廣島原子彈對工業時代戰爭規則改變。

所以我們也許終將面臨「奇點」,但在「奇點」面前,不同階層、不同群體的人類將面臨的未來也許是迥然相異的。就像19世紀末的海軍技術革命,給北洋水師和日本海軍帶來的命運完全不同一樣。

特別巧合的是,昨天(3月16日),百度也正式發布了它對標chatGPT的智能聊天軟體「文心一言」,老總李彥宏親自登場為這個產品做了介紹。

但在我看來,這款產品雖然足夠「黑科技」,發布會本身卻是很難算得上成功的,李總說話的時候你都能感覺到他有那麼一絲絲氣場不足,雖然他在視頻中也展示了「文心一言」在文學創作、商業文案創作、數理邏輯推算、中文理解和多模態生成等幾方面堪稱亮眼的能力,但做的只是視頻展示,而沒敢把軟體拿出來跟觀眾做現場互動——我相信如果「文心一言」的「聊天」能力能與chatGPT比肩、或者哪怕只差一小部分的話,這個展示做出來是最有說服力的。但最後他沒做,不知是不是受了GPT-4的影響,認識到又被海外「友商」甩了一節。

聽著李彥宏先生的演講,我突然想到了一件事情。中國企業、尤其是網際網路企業前些年突飛猛進的發展,很大程度上,其實是一場「新·洋務運動」,國外同類企業有個什麼已經被驗證為可行的新東西,我們照著原樣復刻過來、稍作修改,做個中國版,往往會比他們還要火、還要賺錢。

因為中國這個市場是具有先天的體量優勢,而過去幾十年國際科技的發展好歹是相對「勻質」的,時間上差一點,在技術上也只是差一點。我們可以依靠體量的優勢彌補技術上的代溝。

這是「BAT」之所以成功的根本原因。

但在未來,即便拋開中美「脫鉤」這種最壞的前景不談,考慮到「奇點將臨」,技術發展速度有可能呈指數型增長這個要素,這種模式很可能就將過時了。

因為在技術加速的大背景下,你在時間上差一點,在技術上可能就會差很多。人家那邊都已經革新到GPT-4了,你這邊剛出一個「文心一言」。這還怎麼趕趟呢?

在這種環境下,體量巨大和發展環境相對封閉獨立,反而會成為中國網際網路企業進一步生長的一個劣勢。因為它會拉開我們與先進國之間的「時差」。

所以代溝問題,將來有可能成為曾經成功的中國網際網路各大巨頭未來所面臨的棘手難題。

解決這個難題的唯一辦法,也許只有更加迅速的學習和更大力度的開放,用把自己融入世界革新之潮的方式,消解被對手甩開技術代溝的致命隱患。

而從這個角度講,這幾年中國網際網路上一些人滋生的很多虛驕之氣,認為中國通過開放對先進國家的技術學習已經「得矣、得矣」,甚至暢想依靠體量優勢完成「彎道超車」……這種思潮來的很不是時候。它有點像十九世紀八十年代的北洋水師在花巨資買了一批當時最先進的軍艦之後,覺得自己是「亞洲第一、世界第六」了,然後想依靠這種「先進」吃老本。

開放不是一種一次性的舉動,而是一個必須長期維持下去的互動過程,科技進步的腳步不會為任何人停下來。

驕傲未必是一種罪,人可以在很多時候驕傲,但在一些特殊的節骨眼上不合時宜的驕傲,將是致命的。

也許明年、下個月,甚至明天,下一場技術爆炸、甚至那個預言中的「奇點」就會來臨。就像沒人想到火炮的制退附近機這個小零件,會引爆一場海軍革命一樣,沒人能預判到下一個加速奇點到來的技術突變會是什麼,但我們知道,遊戲規則一定會因之改變。

奇點將至,它會改變所有人的生活,但這種改變不是勻質的,每個人都將在奇點前面臨不同的命運,對故步自封的人,它最為致命。

保持飢餓,保持愚蠢;保持和平,保持開放。冷靜、謙虛、客觀而謹慎的看待這個世界。

這將是我們在這個時代得以生存下去的必由之路。

阿波羅網責任編輯:李廣松

來源:海邊的西塞羅

轉載請註明作者、出處並保持完整。

家在美國 放眼世界 魂系中華
Copyright © 2006 - 2024 by Aboluowang

投稿 投稿