【編者按】在本期“不合時(shí)宜”播客節(jié)目中，主播媒體人王磐與作為軟件工程師、自媒體博主的嘉賓木遙圍繞迎來飛躍式發(fā)展的ChatGPT與人工智能展開討論。ChatGPT如何實(shí)現(xiàn)其本身的技術(shù)進(jìn)步？它展現(xiàn)出的因果鏈條能力為什么如此重要？通用人工智能距離我們還有多遙遠(yuǎn)？面對人工智能的飛速發(fā)展，人類應(yīng)該如何找尋自己的價(jià)值？本文原載于《不合時(shí)宜TheWeirdo》公眾號(hào)。
王磬：今天錄制之前，我也在微信上刷了一刷。我看到昨天被分享了很多的一篇文章。這個(gè)標(biāo)題我給你念一下，感受一下焦慮的程度。叫“微軟深夜放炸彈、GPT4office全家桶發(fā)布，10億打工人被革命”。這類型的標(biāo)題在過去這段時(shí)間里面已經(jīng)可以說是屢見不鮮。一方面，媒體在寫作的時(shí)候會(huì)希望通過這樣的一些標(biāo)題去吸引更多的流量。但另一個(gè)方面，我也在讀木遙老師的微博時(shí)感受到：現(xiàn)在如果仍然評(píng)價(jià)ChatGPT，取得的這些進(jìn)展“什么都不是”，其實(shí)也是很有誤會(huì)的一種解讀。我這學(xué)期正好在香港中文大學(xué)新聞學(xué)院做訪學(xué)，在給這邊的學(xué)生在開一門課程，也是在我們上課的過程當(dāng)中，GPT火了起來。在我們新聞業(yè)，大家就會(huì)擔(dān)心。碼字這件事兒以前可能還算是一個(gè)智力活兒，但是現(xiàn)在ChatGPT出現(xiàn)了之后就不一定了。我覺得但凡親自玩過的人都會(huì)驚訝于是它遣詞造句的成熟的程度，雖然它仍然有一些問題。我覺得當(dāng)它以這種一個(gè)高度智能化、高度擬人化的形態(tài)出現(xiàn)在大眾面前的時(shí)候，是會(huì)讓人產(chǎn)生一些焦慮。
我是文科生，不懂技術(shù)，會(huì)提出一些比較基本的問題，希望能夠回應(yīng)到普通大眾對于這個(gè)議題的一些疑惑。我知道你這幾年其實(shí)一直都有在關(guān)注AI的發(fā)展，也在社交媒體上有做一些分享。你要不要先分享一下，你最開始接觸到ChatGPT大概是在什么時(shí)候？
木遙：我可以簡單梳理一下GPT的發(fā)展，我不想把它變成一個(gè)像科普一樣的嚴(yán)肅討論，但是我覺得理清一些時(shí)間線可能會(huì)對大家了解這個(gè)事情有幫助。順便說一下，你剛才描述的那種心理，就是一部分人非常焦慮，另外一部分人可能會(huì)有一點(diǎn)不屑一顧，甚至懷疑這個(gè)媒體是不是過度炒作了，包括那些震驚式的自媒體是不是在故弄玄虛。我覺得這都是非常真實(shí)的反應(yīng)，我們待會(huì)也可以展開講講我覺得遺憾的、大家可能視角不夠完善的部分在哪里。但是我現(xiàn)在回答你的問題就是時(shí)間線的問題。ChatGPT不是第一代GPT，很多人可能知道它背后的技術(shù)叫做GPT3.5。GPT大語言模型本身進(jìn)入研究者的視線是兩三年前，但是第一次比較成熟應(yīng)該是GPT3，但是3的時(shí)候還是更多停留在業(yè)內(nèi)，跟一般的大眾沒有什么關(guān)系。ChatGPT作為3.5的一個(gè)推向大眾的demo版本，一下子引起了普通人的關(guān)注。這是在去年年底的時(shí)候。我在去年年底的時(shí)候發(fā)過一條微博，我說我覺得以后歷史書上會(huì)記載2022年最重要的歷史事件是ChatGPT的發(fā)布，而不是俄烏戰(zhàn)爭。當(dāng)時(shí)很多評(píng)價(jià)是覺得完全莫名其妙，怎么可能。但我覺得今天可能同意這個(gè)說法的人會(huì)多一點(diǎn)。
前兩天大家也知道OpenAI推出了GPT4。這個(gè)版本號(hào)聽起來有點(diǎn)瑣碎，有點(diǎn)像我們說iPhone13、14、15一樣。但其實(shí)不是，因?yàn)榕銮墒窃贕PT3和3.5之間，它的能力發(fā)生了一個(gè)飛躍。這個(gè)飛躍使得GPT3.5一下子沖破了我們之前認(rèn)為大語言模型不太可能沖破的一些限制，使得它到達(dá)了一個(gè)新的高度。但也正是因?yàn)橥黄票旧矸浅Ｐ?，它發(fā)生在過去的一兩年內(nèi)，它沒有進(jìn)入大眾視野。大眾也不太了解這個(gè)飛躍的實(shí)質(zhì)和它的影響。所以很多人可能還在用一種比較過時(shí)的眼光來看大語言模型，所以對它會(huì)有誤解。這些人不光是一般的老百姓，包括一些非常知名的人士。我相信磬肯定知道兩周前喬姆斯基在紐約時(shí)報(bào)上發(fā)表了一篇文章，主題就是這個(gè)東西沒有什么大不了的。但這篇文章發(fā)表出來之后，基本上被業(yè)內(nèi)人群嘲，大家覺得真的是廉頗老矣。原因不在于喬姆斯基本人的語言學(xué)觀念是不是正確，原因在于他對這個(gè)新技術(shù)明顯停留在一個(gè)過時(shí)的認(rèn)知上。他中間舉了一個(gè)例子說，你看GPT是不可能回答什么什么什么樣問題的，但是事實(shí)上你只要打開GPT試一下就知道其實(shí)是可以的。所以我覺得要理解ChatGPT這個(gè)事情，需要了解過去時(shí)間線，特別是我剛說的飛躍是什么。
簡單地介紹一下這個(gè)事情，為什么大家過去覺得這個(gè)事情是有限制的，而今天又發(fā)現(xiàn)它的限制被突破了。大語言模型，傳統(tǒng)上被認(rèn)為是一個(gè)統(tǒng)計(jì)模型。什么是統(tǒng)計(jì)模型？很多人可能聽過這樣的描述，它的工作機(jī)理是你給它一些你說過的詞，它根據(jù)在語料中學(xué)到的統(tǒng)計(jì)相關(guān)性來預(yù)測下一個(gè)詞是什么。機(jī)制聽起來過于的簡單粗暴和無聊，以至于很多人覺得這怎么可能描繪人的大腦的工作方式，我們大腦又不是這么簡單的機(jī)理——你看了100萬個(gè)文本，你記住哪些詞后面有可能跟哪些詞。這不是我們思考的方式對不對？也正是因?yàn)槿绱?，很多人對這一類統(tǒng)計(jì)模型的能力的上限，事實(shí)上一直以來是低估的，直到3.0為止，它確實(shí)表現(xiàn)的就像是一個(gè)統(tǒng)計(jì)模型，它能夠說出一些比較像是人說的話，但是你說它有意識(shí)，好像還不至于。從3.0到3.5之間發(fā)生了什么？發(fā)生了一個(gè)新的飛躍，這個(gè)飛躍是因果鏈條能力的建立。我以前在微博上寫過這個(gè)事情。什么是因果鏈條？就是它可以做一些推斷性的事了。它不只是我通過前一段詞來推斷下一個(gè)詞是什么，而是我能進(jìn)行一些類似于邏輯上的思考。比方你給他說我把一個(gè)香蕉放進(jìn)一個(gè)紙袋子里面，但我又從紙袋里面取出一個(gè)蘋果，就說明什么事情。如果你只是從字眼上的概率，你是很難想象這段話的下一個(gè)字眼最大概率是什么的。但是我們有邏輯，我們可以想說，這是因?yàn)榧埓锩姹緛砭偷糜幸粋€(gè)蘋果，對不對？這個(gè)事情是邏輯上的想法，它不是單純字詞上的相關(guān)性導(dǎo)致。它需要你對這個(gè)紙袋子是什么東西，為什么香蕉進(jìn)去，蘋果出來有一點(diǎn)特殊性。它反映了什么問題？你需要有一個(gè)世界知識(shí)在后面。這個(gè)東西傳統(tǒng)上是大家認(rèn)為在語言模型的限制之外。但是從3.5開始，大語言模型可以回答這類問題了，可以建立這樣的因果鏈條了。這個(gè)飛躍很大程度上是出乎人們意料的。事實(shí)上，它為什么能夠做到，在今天仍然是研究領(lǐng)域的一個(gè)熱門話題。即使AI的研究者也不是百分之百地理解它為什么能夠做到了。但是越來越多的實(shí)驗(yàn)表明，它真的可以做到。關(guān)于這個(gè)領(lǐng)域的論文，如果有感興趣的專業(yè)讀者可以去搜所謂的思維鏈條的領(lǐng)域，它是過去兩年的一個(gè)非常非常熱門的領(lǐng)域。因?yàn)檫@個(gè)領(lǐng)域的出現(xiàn)，使得從3.5開始，語言模型一下子變得成熟起來了。
不管它怎么做到的，至少它有了一個(gè)好像是世界圖景在它腦海之中的時(shí)候，它跟你聊天的就會(huì)顯得非常非常的真實(shí)，就不像是只是話趕話在說一些似是而非的東西。正是因?yàn)檫@個(gè)飛躍，使得3.5一下子變得可以面向大眾了。所以從去年底開始，OpenAI推出一個(gè)demo推到大家面前，引爆了整個(gè)媒體和一般老百姓的視野。之后，今年3月份順勢推出了比較成熟的GPT4。GPT4具體會(huì)引爆什么樣的？接下來的連鎖反應(yīng)我們還要再看。但是這是正在發(fā)生的故事。
王磬：你剛剛提到的真正具有突破性進(jìn)展的是關(guān)于因果鏈條的建立。為什么建立因果鏈條那么重要？之前技術(shù)上不能夠達(dá)到的難點(diǎn)主要是什么？
木遙：這有點(diǎn)技術(shù)性，但是我可以試著回答一下這個(gè)問題。如果我的回答有點(diǎn)過于枯燥，你可以隨時(shí)打斷。有一本很著名的書，叫做《思考快與慢》，它講的是人的思考的兩種模式，一種模式叫做快模式。什么是快模式？就是你看到一個(gè)東西，你本能地做出反應(yīng)，這個(gè)本能是來自于人的動(dòng)物性，所以這部分是人和動(dòng)物共有的。你在眼前閃現(xiàn)過一個(gè)紅色，你馬上感知到危險(xiǎn)。這個(gè)東西是不經(jīng)過思考的。就是千百年來的生物本能，讓你感覺到危險(xiǎn)。你看到一個(gè)好看的異性或者同性，whatever，你會(huì)覺得ta對我有吸引力。這個(gè)也是，它不經(jīng)過思考，它直接就觸發(fā)你的荷爾蒙。這東西叫快思考。慢思考是你必須要一步一步想問題。就像我們做高考題一樣，你不可能看到題目馬上腦海中就閃現(xiàn)出答案來，除非那個(gè)題你見過。你必須要一步步想題面題干內(nèi)容說明了什么，它又說明什么，所以推出答案應(yīng)該選A。這個(gè)過程是快不了的，它必須有一大堆中間步驟。這個(gè)東西叫慢思考。慢思考一般認(rèn)為是人類有的，動(dòng)物是沒有的，或者至少極少數(shù)的高等動(dòng)物，海豚這樣的可能會(huì)有，但大部分動(dòng)物是沒有的。傳統(tǒng)意義上的神經(jīng)網(wǎng)絡(luò)模仿的是人的快思考，哪怕像AlphaGO這樣會(huì)下棋的非常聰明的神經(jīng)網(wǎng)絡(luò)，它也是快思考。為什么？它就是一個(gè)單純的網(wǎng)絡(luò)。一頭有輸入，一頭有輸出。我們通過訓(xùn)練使得它知道什么樣的輸入，應(yīng)該有什么樣的輸出。把它放在現(xiàn)實(shí)生活中，給它一個(gè)輸入，它給你一個(gè)輸出，在這個(gè)過程中是沒有步驟的。這也是為什么神經(jīng)網(wǎng)絡(luò)長期被人詬病，說它是一個(gè)黑盒子，因?yàn)樗鼪]有任何中間的過程，就是一頭輸入，一頭輸出。神經(jīng)網(wǎng)絡(luò)可能非常深，它中間的模仿函數(shù)的網(wǎng)絡(luò)的結(jié)構(gòu)可能是好多步，但是只是它思考的函數(shù)非常復(fù)雜，但它仍然沒有步驟。它只是一個(gè)非常非常復(fù)雜的函數(shù)，仍然一步到位的從輸入到算出來。而思維鏈條（COT）是完全不同的方式。它不是從輸入一步到輸出，它在模仿人類思考的東西。我給它一個(gè)輸入，它先想第一步中間過程，用第一步中間過程想一個(gè)第二步中間過程，第二步讓過程想第三步中間過程，推出一個(gè)結(jié)果。一旦你能夠建立起這種結(jié)構(gòu)來，你就能夠做到快思考不能夠做到的事情。因?yàn)槲覀兒芏嗳祟惖乃伎歼^程是這樣的，你要把一堆信息綜合在一起，推出一堆中間結(jié)果，最終得到一個(gè)我們要的結(jié)論。
這個(gè)東西不要說低等動(dòng)物，就是比較高級(jí)的，哪怕像貓和狗這樣的動(dòng)物，它其實(shí)都未必能做到，對吧？貓能夠做到一步步想問題，其實(shí)有點(diǎn)懸，對吧？但是今天的AI，至少2021年以后的AI開始逐漸能夠做到這一點(diǎn)了。這就是我剛才為什么我說它是一個(gè)非常本質(zhì)的飛躍。
王磬：我覺得剛才你那個(gè)例子還是很有幫助的。我只能說我現(xiàn)在比剛才5分鐘之前稍微了解的更多了一點(diǎn)。但是我仍然感覺到有很多疑惑的地方，比如像AI有多聰明這個(gè)事，其實(shí)也是過去這幾年或者十幾年大家一直在聊的一個(gè)事，包括像去年也比較火的那種AI繪畫，你輸一堆東西，AI它能給你畫出那么漂亮，甚至是獨(dú)一無二的一些作品。所以我覺得是不是對業(yè)界人士來說，ChatGPT它實(shí)現(xiàn)的飛躍其實(shí)是一個(gè)一系列的技術(shù)進(jìn)步中的一環(huán)，但是到了社交媒體上之后，因?yàn)榇蠹铱赡苤皼]有一直在關(guān)注，才會(huì)有一個(gè)印象，覺得這是一個(gè)技術(shù)性上的前所未有的提升，以至于導(dǎo)致了某種程度的恐慌。在你看來，技術(shù)飛躍的實(shí)現(xiàn)是一個(gè)怎樣的過程？
木遙：我覺得是個(gè)很好的問題，飛躍怎么樣放到一個(gè)更大的坐標(biāo)系里面來觀察。事實(shí)上，這個(gè)問題的業(yè)內(nèi)人士本身在社交媒體上也有觸及過。很多人發(fā)現(xiàn)了一個(gè)現(xiàn)象，好像業(yè)內(nèi)的興奮更大，業(yè)外一部分人覺得焦慮，而另外一部分人覺得這跟我有什么關(guān)系？或者是不是又是狼來了，又是炒作。而更重要的是，就是如你所說的，因?yàn)槲覀兌贾?，今天大家已?jīng)被社交媒體訓(xùn)練的已經(jīng)皮了，對吧？不管多大的事，都是震驚，其結(jié)果就是你分不出這個(gè)震驚的數(shù)量級(jí)，到底是10倍的震驚還是1萬倍的震驚。反正它的標(biāo)題都是震驚、嘆號(hào)。所以你有必要把它放在一個(gè)真實(shí)的坐標(biāo)系里，來考慮這個(gè)東西到底是多大的一個(gè)事兒。它和別的事，比方和Alphago這樣的事兒，或者和畫圖這樣的事兒相比，是怎么樣的？這里面經(jīng)常有一個(gè)概念叫做AGI，就是通用人工智能。通用人工智能一般被認(rèn)為是人工智能領(lǐng)域的圣杯。什么意思？通用人工智能是一切問題的母問題。你要讓AI或者讓機(jī)器來做一個(gè)特定的任務(wù)，這件事情斷斷續(xù)續(xù)是一直都有進(jìn)展的。AI進(jìn)展會(huì)下棋了，AI可能也會(huì)作曲了，AI也會(huì)畫畫等等。但什么叫通用人工智能？同一個(gè)模型能夠同時(shí)做很多事，這件事情是困難的。因?yàn)橥粋€(gè)模型能夠同時(shí)做很多事，意味著它不只是被某一個(gè)特定的任務(wù)所訓(xùn)練成了一個(gè)熟手，不管怎么訓(xùn)練出來的，而是它真正好像人一樣，了解了關(guān)于世界的某些更本質(zhì)的運(yùn)作機(jī)理。你可以想象，你訓(xùn)練寵物狗幫你掉拖鞋。有一天，它非常非常熟練，可以認(rèn)出你喜歡穿什么鞋，知道你每天回來最喜歡穿什么樣的拖鞋，知道你哪天回來心情不好，不用給你拿拖鞋，這都是有可能的。這說明這個(gè)狗真的很聰明。但是如果有一天這個(gè)狗開始說我不只是幫你拿拖鞋了，同時(shí)我還幫你做飯，你就會(huì)覺得這里面一定有某些不尋常的事情了。因?yàn)槟阍僭趺从?xùn)練教拖鞋，這個(gè)能力不可能轉(zhuǎn)化到做飯上。而通用人工智能的意思就是我能夠訓(xùn)練出一個(gè)模型，既能夠拿拖鞋，又能夠做飯，這說明什么？這說明它不只是單純被你訓(xùn)練成一個(gè)熟練工，它一定了解了某些關(guān)于世界運(yùn)作的方式——鞋是什么，飯是什么，以及我該怎么做這些東西。這個(gè)認(rèn)知就要到一個(gè)非常非常底層的層面了。這就是為什么ChatGPT它本身引起的震動(dòng)比之前那些震動(dòng)都大。因?yàn)镃hatGPT可以說是人類看到AGI通過人工智能的第一線曙光，它終于有點(diǎn)通用的意思了。
你今天也試用過，你也知道，你問它的問題并不需要局限于任何一個(gè)特定的話題方向，對不對？你問它什么都可以讓他寫詩。你讓他模仿某某人去寫一個(gè)微博，或者你問它一個(gè)技術(shù)問題，讓它寫一個(gè)代碼都可以，這就有點(diǎn)通用的意思了。特別是你可以很容易想象，既然它可以說話，它就可以通過這些話再去指導(dǎo)別的行為，對不對？今天也有很多這樣的工具，讓GPT去控制一個(gè)agent，就是一個(gè)代理讓它來進(jìn)一步控制電器，進(jìn)一步控制跟物理世界發(fā)生關(guān)聯(lián)的、操縱的東西。就理論上來說完全可以通過語言來真正做一些事兒，而它的語言本身又不限于話題，他就好像真的可以做很多我們生活中可以做到的事情。我不知道你有沒有看上周四所發(fā)布的微軟發(fā)布的新的office。這個(gè)東西對人的沖擊是很大的，因?yàn)榇蠹叶加胦ffice，如果AI只是能夠用來跟你聊天，還只是一個(gè)聊天機(jī)器人。如果AI可以幫你寫文檔，可以幫你寫PPT，可以幫你寫郵件，可以幫你做會(huì)議總結(jié)，它就幾乎可以做95%白領(lǐng)的日常工作了，對吧？通用性是飛躍在業(yè)界引起最大震動(dòng)的部分。所以如果我們用震驚體來描述這次的震驚，是真的比較震驚，比之前的那些震驚要高至少一個(gè)數(shù)量級(jí)。
王磬：如果從你剛才說的意思來看，它之所以能夠高這一個(gè)數(shù)量級(jí)的一個(gè)很重要的原因是在于它好像讓語言具有了一個(gè)直接去行動(dòng)的能力。這部分能力可能以前的時(shí)候大家還會(huì)覺得未來的方向可能會(huì)是AI結(jié)合，人仍然還是占據(jù)一個(gè)非常重要的角色，但只不過你用了AI，這樣可以讓你工作中更有效率。但是一旦AI具有了直接的行動(dòng)能力，它其實(shí)是完全可以某種程度上取代掉人的?？梢赃@么理解嗎？
木遙：我覺得取代不是一個(gè)好的詞兒，因?yàn)槿〈且粋€(gè)非常容易反駁的詞兒。我可以說我仍然會(huì)干什么什么，AI干不了，所以它取代不了我。但正是這種字面上的抬杠，使得問題的本質(zhì)被掩蓋了，因?yàn)锳I在人的生活中的滲透是一個(gè)逐漸的過程。百分之百地取代你可能仍然不會(huì)發(fā)生，可是它也不需要百分之百的取代掉你，只要50%的取代掉你的某些工作職能，AI就會(huì)對就業(yè)市場形成非常大的沖擊。我有一個(gè)紐約的律師朋友，他是很早就開始用這個(gè)東西。他本身不是一個(gè)技術(shù)人員，他是一個(gè)標(biāo)準(zhǔn)的文科生，平常的用一個(gè)新軟件都要緊張半天的那種人。但是他開始用這個(gè)之后，因?yàn)槁蓭煹墓ぷ魇呛艽蟪潭壬鲜且蕾囉谖谋镜?，而文本是GPT的長項(xiàng)，所以他就開始用。之后，我就問他說，所以你真的開始辭退你的員工了嗎？因?yàn)樗约菏且粋€(gè)律所合伙人。他說我還沒有真正開始辭退任何人，但是我確實(shí)打算今年暑假不用再招實(shí)習(xí)生了，因?yàn)榻o我省下的活完全可以讓我騰出手來做一些事，以至于我可以省下招一個(gè)實(shí)習(xí)生的AD account。這就是一個(gè)真實(shí)的影響對不對？它沒有真正取代什么東西，但是它仍然沖擊了一個(gè)真實(shí)的就業(yè)市場上的職位。
我覺得AI對我們社會(huì)的影響會(huì)以這種方式出現(xiàn)，它不會(huì)馬上一下子讓你這個(gè)人變得沒有意義,但是它可以讓三個(gè)人的活，兩個(gè)人現(xiàn)在能干完，多出來那個(gè)人就沒有存在的必要了，所以老板就可以把他開掉。它并不是百分之百取代的人的方式來逐漸進(jìn)行的，而且這個(gè)事情是非常真實(shí)的。這也是為什么我覺得很多人對沖擊仍然沒有做好心理上和事實(shí)上的準(zhǔn)備。其實(shí)有點(diǎn)令人憂慮的原因就是，如果你今天還用一種這東西，都是媒體的炒作來對待這個(gè)問題，你就很可能會(huì)在真正的影響你切身生活的沖擊到來之前，沒有做好對自己來說比較有用的幫助。
王磬：我覺得我們可以順著這里聊一下，聊一些可能更具體的使用的場景和可能會(huì)影響的群體。在你看來它的技術(shù)進(jìn)展可能影響哪一些人群，哪一些工種？或者哪一類生活方式是最容易受到它的影響的？在我們目前已知的這種技術(shù)條件下，不用考慮它未來幾年這種發(fā)展。
木遙：我來簡單解釋一下為什么它能夠幫到你的工作。我今天在網(wǎng)上看到一個(gè)笑話，說GPT這個(gè)詞兒在法語中會(huì)非常好笑。我自己法語很爛，我不知道為什么。如果在傳統(tǒng)時(shí)代，我要么去問一個(gè)懂法語的人，我要么去搜，但是這個(gè)就很難搜，因?yàn)槌怯腥嗽诰W(wǎng)上貼過這個(gè)笑話，否則你也搜不出什么東西來。但現(xiàn)在有GPT，我就打開GPT搜為什么。GPT這個(gè)詞在法語中非常好笑，讓它非?？斓馗嬖V我答案。因?yàn)镚PT在法語中的念法是“我在放屁”的意思。我不是說笑話很好笑，我的意思是過程反映了為什么它會(huì)有用，因?yàn)槲覀冊谏钪写罅康氖挛锉緛硎且赃@種形式在人和人之間發(fā)生的。你有一個(gè)瑣碎的事兒，這個(gè)事情你需要?jiǎng)e人幫你來做，或者你需要一個(gè)秘書，或者你需要什么，但是在沒有機(jī)器的時(shí)代，我們只能使喚一個(gè)人，或者我們自己花時(shí)間來做。但是有這個(gè)東西，它就可以幫你做，而且你去問它沒有任何心理壓力，你不需要付出心理成本。你不需要想說我要請教一個(gè)人，或者我要占他的時(shí)間，不需要的。
用這種模式來考慮這個(gè)問題，你就會(huì)發(fā)現(xiàn)，其實(shí)我們生活中工作中的很大比例都是這樣的，事情瑣碎、小，但又花時(shí)間。基本上我們所說的一個(gè)白領(lǐng)的工作，我不能給一個(gè)精確的數(shù)字，但是我可以有把握可能50%以上都是這種事情。你幫人寫一個(gè)東西，或者你幫人回答一個(gè)日常生活中的問題，或者工作上的問題，或者回答一個(gè)知識(shí)性的問題，或者把一個(gè)什么材料總結(jié)一下。大部分人，我們今天所謂坐辦公室的工作，都是這樣的工作。極少數(shù)的工作是有創(chuàng)造性的、有原創(chuàng)性的。老板可能需要決策，大部分員工也沒什么需要決策的。老板說小張你幫我把什么事搞一下？小張其實(shí)完全可以被GPT所取代。所以如果你問我哪一種職業(yè)最受沖擊，我只能說任何需要在寫字樓里面有一個(gè)小張跑來跑去的工作，都會(huì)被它所影響。因?yàn)樾埶龅氖虑槠鋵?shí)就是這類事情。
我曾經(jīng)寫過一篇微博，GPT的本質(zhì)不是一個(gè)對話集群，GPT的本質(zhì)是一種以對話為界面的服務(wù)。什么叫以對話為界面的服務(wù)？當(dāng)你是一個(gè)老板，或者你是一個(gè)所謂的專業(yè)人士（professional），你日常生活中在不斷調(diào)用這樣的服務(wù)。你有一個(gè)法律問題，你需要有一個(gè)人來給你回答法律困惑。你有一個(gè)編程時(shí)候的問題，你需要請教一個(gè)人。誒，為什么這里有一個(gè)bug，或者我聽你的，你讓我安裝了，但是現(xiàn)在界面上彈出一個(gè)錯(cuò)誤，我不認(rèn)識(shí)這個(gè)錯(cuò)誤，我該怎么辦？這樣的問題是我們工作中需要遇到的。在沒有GPT的時(shí)代，我們需要有一個(gè)人，或者需要一個(gè)能夠至少說話的東西來幫助我們來往下走。而GPT提供的就是這樣一種服務(wù)。它以對話為界面，幫助我們獲得我們所需要的信息，而這種服務(wù)在之前是不存在的。之前當(dāng)然也有一些類似于智能音箱之類的東西是假的，它只能回答特定的有限的問題。但今天的GPT是通用的，它可以回答我任何問題。所以一切以對話為服務(wù)形式的工作都會(huì)被改變。而對話基本上是我們?nèi)粘５陌最I(lǐng)工作的核心。不管是書面對話還是口頭對話。你今天在香港，放眼望去那些凌厲的寫字樓里面的工作，你想象他每天在干什么，想象一下為什么他們的工作不能夠被GPT所取代。其實(shí)你能找到的理由是非常少的，因?yàn)樗麄兇蟛糠炙龅氖虑?，不外乎就是把從a那里遇到的問題，自己消化一下，再問b，然后從b那里得到的回答再消化，也再傳遞一個(gè)a。而這個(gè)事情，GPT是完全可以做到的。
王磬：我覺得在這里有幾個(gè)點(diǎn)，一個(gè)是你剛剛說到消化以及轉(zhuǎn)述的過程，就讓我想起，其實(shí)在我職業(yè)早期，我曾經(jīng)有段時(shí)間是在各機(jī)構(gòu)里面給他們每天寫新聞簡報(bào)（news brief），其實(shí)就是我把頭一天這個(gè)地方所有的重要的媒體關(guān)于某一個(gè)行業(yè)的報(bào)道找出來，進(jìn)行消化和轉(zhuǎn)述，去重點(diǎn)標(biāo)注（highlight）出一些比較重要的信息，這大概是我十幾年前剛開始進(jìn)入職場的時(shí)候做過的其中的一份工作。如果放在今天的語境下來講，這個(gè)是一份非常完美的、肯定可以被ChatGPT去取代的一份工作。因?yàn)榻裉霤hatGPT已經(jīng)可以不光是幫我們?nèi)ニ阉餍侣?，也可以幫我們搜索可能更?fù)雜的學(xué)術(shù)型的文獻(xiàn)。但是另一個(gè)方面，我自己也會(huì)感到，當(dāng)我們?nèi)フf到消化和轉(zhuǎn)述這個(gè)事兒的時(shí)候，這中間也存在一個(gè)質(zhì)量的問題。比如當(dāng)時(shí)我的老板，他有時(shí)候會(huì)跟我抱怨之前的助理，他經(jīng)常會(huì)覺得他提供的新聞簡報(bào)質(zhì)量上可能達(dá)不到一個(gè)簡報(bào)的要求，因?yàn)椴粔蚝啙崳蛘哂袝r(shí)候重點(diǎn)標(biāo)注的點(diǎn)不夠精確、切題（to the point）。我覺得這也回到剛才我們提到的另一個(gè)點(diǎn)，也是我自己覺得很想去深入了解的一個(gè)問題，就是ChatGPT從能做這個(gè)事兒，到能夠以一個(gè)符合這個(gè)人完整的要求去做這個(gè)事兒，中間是不是其實(shí)還是有一定的差距，包括剛才你提到的，比如大家有時(shí)候抱怨ChatGPT，它很擅長一本正經(jīng)地胡說八道，它有時(shí)候會(huì)給你提供一個(gè)字面或者這種形式上看起來非常正確的文本，但事實(shí)上它的文本不太能夠經(jīng)得起考驗(yàn)。所以你會(huì)怎么樣看待這個(gè)過程中可能出現(xiàn)的質(zhì)量上的一個(gè)問題，以及你覺得質(zhì)量的問題它多大程度上可以解決？是什么時(shí)間框架內(nèi)可以解決的問題？
木遙：這個(gè)問題是ChatGPT剛出來這的時(shí)候，很多人抱怨的核心，也是很多人覺得這可能不過又是一場炒作的根本原因，就是他可能用了兩下，發(fā)現(xiàn)這不就是說車轱轆話嘛，而且好像也沒有很深刻，而且很多時(shí)候還在胡扯。但是這里面有兩個(gè)認(rèn)知上的分歧需要被摘出來討論。一個(gè)是ChatGPT其實(shí)不是一個(gè)產(chǎn)品，它是一個(gè)demo。所以當(dāng)你用消費(fèi)者評(píng)估一個(gè)產(chǎn)品的視角評(píng)價(jià)它的時(shí)候，評(píng)價(jià)可能是不公平的。消費(fèi)者評(píng)估一個(gè)產(chǎn)品，你可能會(huì)說我想要一個(gè)幫我掃地的機(jī)器人，這個(gè)機(jī)器人把地掃得不干凈。這就是一個(gè)很糟糕的機(jī)器人，為什么要為它而激動(dòng)？但是這種視角，只當(dāng)你討論的是一個(gè)漸變式的新產(chǎn)品才有意義。當(dāng)我們討論一個(gè)突變式的新產(chǎn)品的時(shí)候，你這種評(píng)價(jià)很可能就會(huì)因小失大。我舉個(gè)例子，在馬車的時(shí)代，有了第一輛汽車，在各種性能上都碾壓馬車了嗎？其實(shí)是不可能的，因?yàn)轳R車被優(yōu)化了幾千年。而第一輛汽車，它一定是非常粗糙的，對不對？馬車可能很舒服，抗震性能非常的好，它已經(jīng)能想到的部分都盡善盡美了。而汽車，它可能會(huì)掉鏈子，它要加油，它可能滴里呱啦的，沒什么防震，它一開始是有很大按他缺陷的。所以，如果你直接比較舒適程度，可能汽車未必比得上馬車。至少第一輛汽車是這樣。但是它仍然是碾壓性的優(yōu)勢。為什么？因?yàn)樗且粋€(gè)斷層式的革新。所以當(dāng)你評(píng)價(jià)GPT的時(shí)候，你必須分清楚哪些是我剛剛說的這種，它只是因?yàn)橐粋€(gè)新的東西沒有來得及做得好，哪些是它就不可能做得好。但這牽扯到第二個(gè)問題，還是那句話，我們大眾其實(shí)過去已經(jīng)被這種新技術(shù)的轟炸式的新聞弄得神經(jīng)疲憊了，每個(gè)東西都告訴我能夠改變世界。3D打印改變世界，5G改變世界，比特幣改變世界，對吧？每一個(gè)東西它都會(huì)告訴你改變世界。關(guān)于元宇宙的新聞言猶在耳，今天已經(jīng)沒有人提了。你當(dāng)時(shí)也說它改變世界，哪改變了，對吧？所以這種狼來了的心態(tài)是非常真實(shí)的。我們今天憑什么說GPT是不是又改變世界，還只是我們這幫人在認(rèn)知上……我得承認(rèn)，你不可能百分之百的準(zhǔn)確。你有的時(shí)候弄錯(cuò)了，你有的時(shí)候以為它改變世界，其實(shí)什么事也沒發(fā)生。這種錯(cuò)誤的概率是存在的。但是我仍然個(gè)人覺得GPT可能比剛才說的那些東西都更有可能是真的。我不能說百分之百，但更有可能是真的。它的缺陷包括兩個(gè)層面的缺陷。一個(gè)層面是它的表達(dá)是不是，用你的話說，to the point，或者是不是足夠精準(zhǔn)，這個(gè)東西是很容易通過模型不斷地訓(xùn)練改進(jìn)的。另外一個(gè)缺陷，它是不是胡扯，在學(xué)術(shù)上被稱作fact grounding。它的表述是不是基于真實(shí)的事實(shí)？這其實(shí)是一個(gè)非常有趣的技術(shù)問題，因?yàn)槲覀兘裉熘?GPT也好，GPT4也好，它都是一個(gè)封閉模型。什么是封閉模型？它運(yùn)行的時(shí)候并不實(shí)時(shí)查閱任何背后的數(shù)據(jù)庫，它只是在復(fù)述在訓(xùn)練的時(shí)候記住的東西。如果在訓(xùn)練的時(shí)候這個(gè)事情還沒有存在，它就永遠(yuǎn)都不可能知道。但這不是本質(zhì)。缺陷這只是碰巧，因?yàn)閺腛penAI公司的角度來說，它總得推出一個(gè)什么東西，而這個(gè)東西，你要讓它查閱現(xiàn)實(shí)的數(shù)據(jù)庫，你需要跟很多領(lǐng)域去談，對吧？你要讓它查閱法律數(shù)據(jù)庫，你總需要去跟一個(gè)法律數(shù)據(jù)庫的供應(yīng)商去談一個(gè)什么deal出來?；蛘吣阋屗鼘?shí)時(shí)檢索網(wǎng)絡(luò)，你總得讓它真正部署到一個(gè)可以實(shí)時(shí)檢索網(wǎng)絡(luò)的服務(wù)器的層面，服務(wù)器本身要處理大量的跟現(xiàn)實(shí)網(wǎng)絡(luò)的交互，這不是很容易的事情。Bink是一個(gè)很好的嘗試，Bink把GPT置入到搜索引擎之中，但是又同時(shí)能夠?qū)崟r(shí)檢索網(wǎng)絡(luò)。但是你可能更需要更專業(yè)的比方，你需要他能夠回答醫(yī)學(xué)問題的時(shí)候，不是靠你的記憶來回答，而是你真正去查一個(gè)真實(shí)存在的醫(yī)療文獻(xiàn)出來。這是我們作為消費(fèi)者很一個(gè)很自然的需求。而這個(gè)東西實(shí)現(xiàn)起來是需要時(shí)間的，因?yàn)樗鼱砍兜礁F(xiàn)實(shí)的已經(jīng)存在的知識(shí)信息，網(wǎng)絡(luò)上存在的資源有一個(gè)溝通的過程，這個(gè)事情不會(huì)一夜之間發(fā)生，但是它也沒什么技術(shù)上本質(zhì)的障礙存在。所以我?guī)缀蹩梢钥隙ㄔ谖磥硪粌赡陜?nèi)，你會(huì)看到越來越多的基于真實(shí)數(shù)據(jù)的、做好fact grounding的GPT，那個(gè)時(shí)候GPT就不只是靠它訓(xùn)練時(shí)候記住的東西來回答你了，它就變成一個(gè)中間的layer，它負(fù)責(zé)理解你的問題，輸出一個(gè)答案。但是它背后的事實(shí)來自于一個(gè)更真實(shí)的，比方說法律文書的數(shù)據(jù)庫，或者一個(gè)醫(yī)療資源的數(shù)據(jù)庫或者等等。那個(gè)時(shí)候它胡扯的幾率就會(huì)大大降低。這件事情并沒有很困難，我相信會(huì)很快發(fā)生。
王磬：而且其實(shí)你說讓我想到它跟人腦的結(jié)構(gòu)也是有點(diǎn)類似的。比如我在跟你進(jìn)行對話的時(shí)候，如果我不是同時(shí)在用互聯(lián)網(wǎng)，我在跟你進(jìn)行對話的時(shí)候，我所告訴你的所有的東西，其實(shí)我在這個(gè)點(diǎn)之前，我已經(jīng)接受到那些東西，我不可能在跟你對話的時(shí)候?qū)崟r(shí)去查詢。比如今天天氣怎么樣，香港的人口是多少，我沒有辦法實(shí)時(shí)去查詢這樣的東西。如果我現(xiàn)在跟你講了這個(gè)東西，只是因?yàn)槲抑熬鸵呀?jīng)知道了，所以從那個(gè)程度上來說，ChatGPT如果真的如你所說，它能夠在接下來一兩年內(nèi)，不光實(shí)現(xiàn)理解、回答你的問題，這樣一個(gè)需要一定的邏輯能力，需要一定的這種交互能力去完成的動(dòng)作，它同時(shí)還可以在交互的同時(shí)進(jìn)行一個(gè)無限的連通，相當(dāng)于讓你在跟他對話的時(shí)候，你可能獲得的信息比你跟一個(gè)這方面的專家獲得的信息更及時(shí)、更準(zhǔn)確。如果真的是這樣的一個(gè)情況，你會(huì)覺得這其實(shí)是會(huì)讓人感覺有一點(diǎn)焦慮的時(shí)刻嗎？
木遙：首先，這不如果，這是必然，因?yàn)檫@個(gè)事情已經(jīng)發(fā)生了。今天的Bing就是微軟新的搜索引擎，我們一般叫new Bing，但是讀起來有點(diǎn)怪。它就是這樣一個(gè)東西。它是實(shí)時(shí)教育，只不過它因?yàn)榉?wù)上的限制，它沒有辦法查閱的非常多，因?yàn)閷Ψ?wù)器壓力很大。它也在不斷優(yōu)化這件事情。特別是如果你用中文，用new Bing效果并不是特別好，它中文所能搜索到的東西是非常局限的。但是如果你用英文的new bing，今天事實(shí)上是已經(jīng)在回答你的問題的時(shí)候?qū)崟r(shí)調(diào)用互聯(lián)網(wǎng)了，已經(jīng)不是在靠它的記憶在回答了。但這只是一個(gè)通用的搜索引擎，以后會(huì)有越來越多專用搜索引擎出現(xiàn)。我跟它聊的時(shí)候，它去實(shí)時(shí)調(diào)用一個(gè)真實(shí)的專業(yè)數(shù)據(jù)庫。而這件事情在技術(shù)上沒有任何難點(diǎn)，它唯一的困難是你得真的去做這件事。得有一堆工程師負(fù)責(zé)把這些該連的接口連起來，這是需要花時(shí)間的，而且需要對方答應(yīng)給你提供數(shù)據(jù)的提供商得愿意讓你去訪問。但這些問題都是可解決，它沒有技術(shù)上的本質(zhì)障礙。所以歸根結(jié)底，GPT它就是一個(gè)中間的過渡層，它背后是真實(shí)的、大量的、無限的網(wǎng)絡(luò)知識(shí)。它前面面對的是我們這樣的人，它起到的是我一開始一個(gè)作為對話的服務(wù)。它負(fù)責(zé)把結(jié)構(gòu)化的知識(shí)翻譯成我們?nèi)祟惪梢越邮艿淖匀徽Z言，又把我們?nèi)祟惖淖匀徽Z言問的問題，翻譯成從結(jié)構(gòu)化的知識(shí)中提取信息的這么一個(gè)action。這件事情會(huì)不會(huì)讓你焦慮？我打一開始就說了，它當(dāng)然應(yīng)當(dāng)讓你覺得，咱們不說焦慮，至少讓你覺得做好準(zhǔn)備，否則你就會(huì)在真正的變革發(fā)生的時(shí)候措手不及，因?yàn)檫@件事情不是萬一會(huì)發(fā)生怎么辦的問題。它是正在發(fā)生，并且很快就會(huì)。因?yàn)檫@個(gè)東西它帶來的效率提升是碾壓式的，所以它速度會(huì)非?？欤拖袷钱?dāng)年汽車取代馬車一樣。它畢竟是一個(gè)代際之間的差距，有點(diǎn)像我們中國人剛剛接觸到洋槍洋炮的時(shí)候，差距是你還是紅纓槍，對面已經(jīng)是火槍火炮了。那個(gè)差距是你沒有辦法抵抗的，一觸即潰的。所以這個(gè)過程本身會(huì)非?？臁６夷惚仨氉龊脺?zhǔn)備，不能還在想說這只是未來，它萬一可能會(huì)發(fā)生，它不是萬一，它一定會(huì)發(fā)生。
王磬：我就把這個(gè)問題再推得更極端一點(diǎn)，因?yàn)槲矣X得在科技發(fā)展期，其實(shí)大家一直以來也都會(huì)聊到科技奇點(diǎn)的問題這個(gè)概念。當(dāng)然你可以給出個(gè)更好的解釋。我非常膚淺的解釋是，根據(jù)科技發(fā)展史，有一類觀點(diǎn)認(rèn)為，在某一個(gè)點(diǎn)，人類可能會(huì)接近一個(gè)使得現(xiàn)有的文明完全被科技發(fā)展所顛覆的這樣的一個(gè)事件點(diǎn)。這個(gè)事件點(diǎn)某種程度上它具有一定的科幻的色彩，可能在一些這種科幻電影中也曾經(jīng)不斷的被描述。但是在現(xiàn)實(shí)生活中，到目前為止，它仍然是作為一種假想而存在。在你看來，你覺得這會(huì)不會(huì)是一個(gè)人類發(fā)展史上的一個(gè)奇點(diǎn)時(shí)刻？
木遙：首先，如您所說，奇點(diǎn)的東西不是一個(gè)有共同接受定義的東西，所以你很難精確地說什么是我。今天早上，我們醒來，發(fā)現(xiàn)世界怎么樣了。這是一個(gè)文學(xué)性的比喻。你并不會(huì)真的找到那么一天或者一個(gè)時(shí)刻。但是你要說這次的，咱們不說它是不是工業(yè)革命，它至少是一個(gè)不管什么意義上的革命。它有沒有特殊性？有的。我們?nèi)祟愒谶^往的工業(yè)革命史上對機(jī)器有一個(gè)非常本質(zhì)的優(yōu)勢。我們雖然在體能上遠(yuǎn)遠(yuǎn)輸給了機(jī)器，但我們的腦力從來沒有輸給過機(jī)器。而我們一般認(rèn)為人類的能力不外乎就是體力加腦力，或者我們的肉體加上我們的靈魂。如果你在腦力上也被，至少在很大一部分層面上被機(jī)器取代了，這就不只是你被機(jī)器取代了一部分的問題，是你必須要嚴(yán)肅地問一問自己，我還剩下什么是機(jī)器做不到的？這不是一個(gè)很容易的問題。我們必須理解，過去兩三百年的現(xiàn)代社會(huì)，是被這樣一種基本認(rèn)知所塑造的。人類的價(jià)值體現(xiàn)在他的腦力上的價(jià)值。一個(gè)小孩身體非常好，但是腦子很笨。另外一個(gè)小孩身體素質(zhì)一般，但腦子很好。我們一般認(rèn)為后者更有出息，但這個(gè)認(rèn)為是哪來的？這并不是自古以來就有，這就是工業(yè)革命的產(chǎn)物。工業(yè)革命讓我們覺得腦力比體力在社會(huì)價(jià)值的鄙視鏈上更高，而它更高的唯一原因是它是我們?nèi)祟惖膬?yōu)勢的體現(xiàn)。我們再把話題再推得極端一點(diǎn)，我們想想，有三個(gè)小孩，一個(gè)小孩身體倍兒棒，一個(gè)小孩腦袋非常好，會(huì)做奧數(shù)題。一個(gè)小孩長得非常好看，他身體也未必有多么大的體力優(yōu)勢，但是他就是長得非常好看。我們今天的家長會(huì)覺得哪個(gè)小孩最有出息？我們會(huì)認(rèn)為腦子好的小孩最有出息，對不對？學(xué)好數(shù)理化，走遍天下都不怕。第一個(gè)小孩是最沒出息的，他只能去送外賣。第三個(gè)小孩他可能也能掙很多錢，他長得很好看，但是我們今天的價(jià)值體系認(rèn)為你靠臉吃飯，不是說不可以，但他好像有點(diǎn)不是正道，或者不是我們家長會(huì)希望小孩子走的道路，對不對？你今天問一個(gè)家長，希望小孩他是做工程師還是去當(dāng)網(wǎng)紅？他可能會(huì)覺得網(wǎng)紅也掙很多錢，但是他仍然希望，如果你能做工程師，還是做工程師好。但這個(gè)價(jià)值排序，它不是天上掉下來的，它也不是自古以來就有的，它是工業(yè)革命的產(chǎn)物。工業(yè)革命讓我們覺得腦力是最高級(jí)的。臉也挺重要的。你要只有肌肉，那就好像等而下之。但假如你的腦力也被機(jī)器碾壓了，這個(gè)價(jià)值體系還能不能維持？顯然就不能了。你沒有任何理由認(rèn)為聰明是一種優(yōu)勢。因?yàn)槟惴凑膊蝗鏏I聰明。當(dāng)然，今天還不是這樣。今天我們?nèi)匀槐華I聰明，但如果AI進(jìn)一步變得更強(qiáng)大的話，你就沒有AI聰明了。那時(shí)候，我們?nèi)祟惖膬r(jià)值體現(xiàn)在哪里？如果你還是長得很好看，你是當(dāng)網(wǎng)紅，如果你長得不好看的，你存在的意義是什么？這是一個(gè)非常本質(zhì)的存在主義的問題。而這個(gè)問題我沒有好的答案。因?yàn)槲覀內(nèi)祟悰]有經(jīng)歷過這種時(shí)刻，我們?nèi)祟悰]有經(jīng)歷過在方方面面所有的維度上都比不過機(jī)器的時(shí)刻。所以把它叫不叫奇點(diǎn)，我不知道，但它確實(shí)是一個(gè)嶄新的、沒有存在過的一個(gè)狀況。
王磬：另一個(gè)問題也是剛才你提到歷史上的這種情況。所以，如果比如要幫助我們理解今天的情況到底有多特殊，你會(huì)覺得在人類歷史上曾經(jīng)也是出現(xiàn)過的、這些對世界格局，對人類的發(fā)展進(jìn)程產(chǎn)生了深遠(yuǎn)影響的技術(shù)革命，你會(huì)覺得有哪一次可能會(huì)是跟這一次可以相提并論的嗎？
木遙：這兩天會(huì)在網(wǎng)上看到很多比喻。很多人說周四的微軟發(fā)布會(huì)是微軟的iPhone時(shí)刻，相當(dāng)于蘋果在2007年推出第一代iPhone。也有人認(rèn)為這次的革命的幅度會(huì)超過智能手機(jī)的革命。我們這代人其實(shí)最近的兩個(gè)革命，一個(gè)是互聯(lián)網(wǎng)革命，大概誕生在我們這代人剛出生的時(shí)候。一次是智能互聯(lián)網(wǎng)或者是移動(dòng)互聯(lián)網(wǎng)，一般被認(rèn)為就是喬布斯那次著名的發(fā)布會(huì)，2007年的時(shí)候。這是我們能夠拿來做參照系的東西。當(dāng)然我剛剛說了，這兩個(gè)做參照系都不是特別合適。
首先，我個(gè)人覺得這次人工智能革命的激烈程度會(huì)至少大于移動(dòng)互聯(lián)網(wǎng)，是不是大于互聯(lián)網(wǎng)本身還不好說，我們還要再看。但是另外一方面，我剛說了，這兩次革命再怎么說，已經(jīng)發(fā)生這兩次互聯(lián)網(wǎng)加上智能手機(jī)，都沒有觸及到我們?nèi)说拇嬖谝饬x的問題，對不對？你并不會(huì)覺得有了互聯(lián)網(wǎng)，你人就沒有存在的意義了。但是當(dāng)這世界上大部分人，他會(huì)問自己，我在這個(gè)世界上能夠干什么？如果這個(gè)問題沒有答案，就算我們社會(huì)結(jié)構(gòu)因此適應(yīng)了我們，給那些找不到工作的人發(fā)一個(gè)今天在西方討論很多的UBI，就是基本生活補(bǔ)助，或者給你一個(gè)基本的錢，讓你不至于死掉。即使這樣，這是不是解決了問題？其實(shí)沒有，因?yàn)槲覀內(nèi)水吘共皇侵荒芸炕斐缘人谰湍苓^一輩子的生物，我們需要有一個(gè)存在感，我們需要有一個(gè)存在意義的自我追問。哪怕是可能不知識(shí)分子的人，哪怕是一個(gè)普通的日常的老百姓，他也需要有某種意義感。我們都聽過那樣的故事，就是一個(gè)人退休之后，或者一個(gè)媽媽的發(fā)現(xiàn)她的兒女長大成人，不再需要她的建議之后的那種失落感。為什么你會(huì)覺得失落？因?yàn)槟阌X得我希望成為一個(gè)有用的人，對不對？有用并不一定體現(xiàn)在我掙工資，但我希望別人認(rèn)可我的存在，我希望我以某種方式在跟別人交互的時(shí)候發(fā)揮出某種價(jià)值。但如果我不但身體的能力比不過機(jī)器，連作為一個(gè)可以對話的人所能提供的價(jià)值都比不過機(jī)器的時(shí)候，它對人類的心理上的沖擊是無可比擬的。你很難跟互聯(lián)網(wǎng)或者跟汽車或者跟飛機(jī)的比較來做衡量，因?yàn)槟切〇|西并不觸及這個(gè)層面，而這次是真正觸及了這個(gè)層面。你作為一個(gè)普通人，你既不特別漂亮，又不特別聰明，你不能夠成為那些去開發(fā)AI的工程師，你只能用它。你工作的意義是？你生活的意義是什么？這是一個(gè)真實(shí)存在的問題，我沒有答案，但是它確實(shí)是我們?nèi)祟惖谝淮闻鲇|到這樣的問題。
王磬：我想反向來問一個(gè)問題，我們剛才其實(shí)談了很多GPT可能帶來的技術(shù)變革，它能做什么，現(xiàn)在能做什么，未來可能能做的更多。從你的角度來看，你覺得如果我們要去定義ChatGPT，它不能做什么，你會(huì)怎么定義？
木遙：我們都知道，在過去的二三十年里面，我們社會(huì)的家庭觀念，或者我們社會(huì)的關(guān)于家庭勞動(dòng)的價(jià)值發(fā)生了一個(gè)很大的轉(zhuǎn)變。在上一輩人的觀念中，比方假定你是個(gè)家庭婦女，你的工作是不被認(rèn)可的，對不對？老公出去掙錢，他覺得他在掙錢養(yǎng)家。老婆在家里工作了一整天，甚至不是一周工作5天，是工作了7天，但她在家里面收拾東西，洗碗做飯，照顧好小孩。這個(gè)工作不被認(rèn)為是掙錢，不被認(rèn)為是平等的勞動(dòng)。所以老公可以回來往床上一躺。我在外面掙錢掙了一整天，好累。你給我什么什么干什么？過去20年，由于女性主義思潮的興起，由于社會(huì)更全面地進(jìn)入現(xiàn)代化，我們開始意識(shí)到，這個(gè)觀點(diǎn)發(fā)生變化了，我們開始意識(shí)到家庭勞動(dòng)也是平等的勞動(dòng)，這部分勞動(dòng)很大程度上是不可取代的。但它再怎么說平等，它也只是我們把本來不被承認(rèn)的勞動(dòng)價(jià)值提到了一定層面上。AI的出現(xiàn)會(huì)把變化更劇烈的，我甚至都不能說推動(dòng)，而是把它會(huì)打亂。為什么？因?yàn)槟銜?huì)發(fā)現(xiàn)，它會(huì)把這兩件事情的重要性調(diào)過一個(gè)個(gè)來。AI仍然不能幫助你洗碗，它仍然不能幫你照顧小孩，伺候老人、收拾家。某些部分可以，比方掃地機(jī)器人可以幫你掃地，但是很多事情今天仍然大家做不了。最簡單的，你想把衣服都疊起來，這個(gè)事情你雇一個(gè)機(jī)器人來干，仍然不是馬上就會(huì)發(fā)生的事情。傳統(tǒng)上認(rèn)為是成功人士的，每天出入于寫字樓的西裝革履的老工作，干的事情反而會(huì)變得毫無意義。他的工作既掙不來錢，也掙不來意義感，因?yàn)樗龅氖虑?，AI都能做了。我們的不管是家庭觀念也好，勞動(dòng)價(jià)值也好，會(huì)發(fā)生什么樣的變化，我自己不知道，但是它是一定會(huì)發(fā)生的。因?yàn)槟銊倖栁沂裁礃拥墓ぷ魅匀徊荒軌虮蝗〈?。這些東西仍然不能被取代的。那些照顧人的部分，那些在情緒上，在肉體上，在一切人和人交流的意義上所付出的勞動(dòng)，都仍然是不能被取代的。當(dāng)然，今天ChatGPT已經(jīng)可以跟你聊天了，所以你可以跟它傾訴，甚至可以跟它談戀愛，在某種意義上來說，但是它仍然不能取代你真實(shí)人和人之間的關(guān)心和照護(hù)（care）對不對？但它可以取代你在白天上班的時(shí)候看起來光鮮的白領(lǐng)。所以，它會(huì)非常非常深刻的影響我們整個(gè)社會(huì)的對價(jià)值的排序。我們本來被看作比較低級(jí)的所謂的家庭勞動(dòng)，或者是那些不掙錢的勞動(dòng)，會(huì)變成人類真正的安身立命的東西。而那些傳統(tǒng)的被認(rèn)為是高級(jí)的professional的掙錢養(yǎng)家的勞動(dòng)，我也不知道像什么一樣，但是它會(huì)逐漸消散掉。
王磬：你提到這個(gè)，我覺得挺有意思的，比如像照護(hù)或者情緒價(jià)值。我記得前段好像是ChatGPT剛出來那陣子，當(dāng)時(shí)有一個(gè)主流媒體的記者去跟ChatGPT進(jìn)行了一場聊天，他后來把整個(gè)的轉(zhuǎn)寫發(fā)在了網(wǎng)站上，他說他聊完了之后，其實(shí)當(dāng)時(shí)有點(diǎn)恐懼，因?yàn)?ChatGPT跟他聊到他的感情，并且勸他離開他的妻子。我不知道那個(gè)東西它在發(fā)出來的時(shí)候，以那樣的一種highlight發(fā)出來，這背后有多大的一個(gè)真實(shí)性，或者是不是中間有一些過度闡釋的部分。但我覺得它某種程度上其實(shí)是在于ChatGPT它可能提供的想象確實(shí)我們之前從未想過的。我記得曾經(jīng)有過一部電影，叫做Her，講的就是一個(gè)人跟人工智能在談戀愛的故事。人工智能跟他交互的方式是以一個(gè)女性的聲音，當(dāng)然那個(gè)聲音非常的好聽，是斯佳麗約翰遜配音的。在故事當(dāng)中，這個(gè)男主角確實(shí)是不可自拔地跟AI在進(jìn)行一場戀愛。所以某種程度上，你要說他是可以部分的去取代對人的這種情感價(jià)值、陪伴價(jià)值，甚至可能有一天也能夠?qū)崿F(xiàn)照護(hù)的一些功能。
如果按照剛才我們講的邏輯，它現(xiàn)在既然已經(jīng)能夠比如從ChatGPT，包括在office里面的這種應(yīng)用，它是可以指導(dǎo)你去進(jìn)行一些行動(dòng)的。如果加上之后這種物聯(lián)網(wǎng)的一些發(fā)展，像比如疊衣服，現(xiàn)在可能會(huì)是一個(gè)比較相對來說復(fù)雜的動(dòng)作，但是聽上去其實(shí)是一個(gè)相對來說技術(shù)上更容易解決的一個(gè)問題。你不需要把動(dòng)作拆分成很多的步驟，但實(shí)現(xiàn)它可能也許只是一個(gè)時(shí)間的問題。比如再早一點(diǎn)，像洗碗機(jī)這么復(fù)雜的功能也得到了一個(gè)實(shí)現(xiàn)。所以我想講的就是，聽你聊完了這些之后，我自己現(xiàn)在對于ChatGPT的感受確實(shí)是還挺復(fù)雜的。一方面知道它會(huì)對你的這種工作、現(xiàn)在這種生存狀況帶來很大的影響，這種影響可能都不是一個(gè)未來，是他很有可能就已經(jīng)是一個(gè)現(xiàn)在進(jìn)行時(shí)。但另一個(gè)方面，它其實(shí)也把現(xiàn)在的結(jié)構(gòu)當(dāng)中，可能很多重復(fù)的部分，或者很多不盡如人意的一些資源，讓他進(jìn)行一輪更好的整合，也許會(huì)在某些程度上把人類從大衛(wèi)格雷博所說的那種毫無意義的工作（Bullshit Job）當(dāng)中解放出來。但是我想知道，從你自己的角度來看，如果去描述你在面對ChatGPT的這種巨大的技術(shù)進(jìn)步，你的這種情緒上的回應(yīng)，或者情緒上的一個(gè)波動(dòng)，你會(huì)怎么樣去描述它？
木遙：先回答剛才紐約時(shí)報(bào)的問題，就是他跟ChatGPT聊了一晚上，談了一個(gè)非常荒謬但好笑的戀愛。我們會(huì)不會(huì)有一天真的覺得AI可以跟我們談戀愛了，或者滿足我們的情緒價(jià)值需求了？我不知道，可能會(huì)，可能不會(huì)，可能我們這代人還不會(huì)，因?yàn)槲覀冞@代人的思維形式已經(jīng)定型。但是今天才出生的小孩，他會(huì)不會(huì)？我一點(diǎn)概念都沒有。我有很多朋友告訴我說，他們家的小朋友其實(shí)在家里跟智能機(jī)器人聊天是非常常見的事情，我們很難想象，因?yàn)槟阌X得你在家里跟一個(gè)音箱聊天，是不是有點(diǎn)怪異（creepy）？但是如果你出生的時(shí)候家里就有一個(gè)智能音箱，他可能不覺得這任何特殊之處。你就聊了。
王磬：我補(bǔ)充一個(gè)例子，我最近在學(xué)校里面教課，我的學(xué)生就有跟我說，他們的同齡人里面在跟AI談戀愛已經(jīng)不是一個(gè)非常少見的現(xiàn)象。
木遙：所以我們會(huì)不會(huì)真的跟它談戀愛，我不知道。如果一個(gè)宅男，他本來也沒有什么真實(shí)跟人談戀愛的能力，他確實(shí)覺得AI可能是一個(gè)更好的選擇，這也是有可能的。它會(huì)不會(huì)能夠幫我們疊衣服？你剛用了洗碗機(jī)的例子，其實(shí)洗碗不是一個(gè)好例子，因?yàn)橄赐肽莻€(gè)東西是碗，碗大不了就打碎了，也就是個(gè)碗。我這么說好了，我舉一個(gè)很簡單的現(xiàn)實(shí)生活中的例子。你要給小孩換尿布，這個(gè)事情什么時(shí)候能夠讓機(jī)器來干？我認(rèn)為不會(huì)很近，因?yàn)榛钌囊粋€(gè)小孩對安全性的要求不是像洗碗機(jī)這樣的。它雖然是個(gè)技術(shù)問題，但它不是一個(gè)馬上就能解決的問題。我覺得它反而比很多我們認(rèn)為本來遙遙無期的事情——比方說讓AI寫一個(gè)長篇小說——更難。當(dāng)然，這是關(guān)于未來的判斷，很難百分之百的確定。
但是，歸根結(jié)底的本質(zhì)問題是，我們在情感上的需求是什么？我們這代人可能已經(jīng)逐漸步入中年，我們可能思維模式已經(jīng)定型了。下一代人是不是這么想我不知道。但是我們?nèi)说那楦行枨笫遣皇侵皇怯腥伺隳懔奶炀蛪蛄耍窟€是你真的需要一個(gè)活生生的人？這個(gè)是一個(gè)哲學(xué)問題，我沒有好答案。這應(yīng)該是一個(gè)用你一開始的說法，這其實(shí)應(yīng)該是一個(gè)文科生的問題，對不對？我覺得它是一個(gè)很重要的問題，但是我沒有很好的答案。但我覺得有兩件事情值得一提。一件事情是，這個(gè)話題其實(shí)也挺危險(xiǎn)的，因?yàn)槟阒?，在今天的中文互?lián)網(wǎng)上，你要討論任何關(guān)于性別的議題都很危險(xiǎn)。但是AI會(huì)在很大程度上會(huì)提升我們傳統(tǒng)上認(rèn)為女性更擅長的很多優(yōu)勢的重要性，因?yàn)槟切〇|西相對而言不太容易被AI迅速取代。這句話當(dāng)然很容易找到各種各樣的漏洞，但是我來解釋一下什么意思。
我們傳統(tǒng)上認(rèn)為，我們今天的職場上，你說它是偏見也好，說它是刻板印象也好。但今天我們確實(shí)更普遍地把跟理工科的或者跟定量思維有關(guān)的任務(wù)派給男生，不管男生是不是實(shí)際上更好。你要問我，我并不認(rèn)為男生更好，但是現(xiàn)實(shí)社會(huì)結(jié)構(gòu)是這樣的。我們認(rèn)為男生來做這樣的事情是讓社會(huì)上更約定俗成的一種辦法，而把那些跟溝通、跟協(xié)調(diào)有關(guān)的事情派給女生。我需要強(qiáng)調(diào)，不是這件事情有什么必然性，但今天的社會(huì)事實(shí)上是這么運(yùn)作的。這兩類工作，哪一類更容易被AI去代替？顯然是前者。AI今天會(huì)讓你處理一個(gè)Excel報(bào)表的工作變得完全不重要，因?yàn)樗鯡xcel比你做得好多了。但AI能不能更好地協(xié)調(diào)一個(gè)團(tuán)隊(duì)？未必。因?yàn)槠渌麍F(tuán)隊(duì)。我們?nèi)匀皇侨说纳?。本能需要有某種人和人之間的聯(lián)系（bond），人和人之間的非常微妙，非常難以言表、但真實(shí)的人與人之間的互動(dòng)（human interaction）所帶來的化學(xué)反應(yīng)（chemistry）。這種能力，AI暫時(shí)是做不到的，或者我們想不到它用什么形式做到。我們?nèi)祟惪梢苑咭粋€(gè)真實(shí)的人的協(xié)調(diào)，但是我們?nèi)祟悤?huì)愿意服膺一個(gè)AI的協(xié)調(diào)，或者它的領(lǐng)導(dǎo)和指示嗎？這其實(shí)我不太確定下一代人會(huì)不會(huì)，他們可能會(huì)覺得更自然，但是我不知道，只是我們這代人，可能需要一點(diǎn)心理上的轉(zhuǎn)變。所以在這個(gè)意義上來說，這是我剛回答你的問題的第一個(gè)層面。我們?nèi)祟惾匀皇怯幸恍┕ぷ鲿簳r(shí)不會(huì)被馬上取代的，這種牽扯到人和人交流的。
王磬：我想問你，從你個(gè)人來說，你覺得你會(huì)跟AI談戀愛嗎？
木遙：我不會(huì)，但是我已經(jīng)是成年人了，我的思維方式已經(jīng)定型了。下一代人會(huì)不會(huì)我不知道。
王磬：你不會(huì)跟AI談戀愛的這個(gè)點(diǎn)，你覺得AI它不能夠給你提供的是什么？
木遙：不能給我提供的是一個(gè)我在活人那里獲得的認(rèn)可。這里面牽扯到一個(gè)本質(zhì)問題，就是為什么活人的認(rèn)可那么重要？我不知道，但是我小時(shí)候是這么被培養(yǎng)長大的。人總有他的時(shí)代局限性。我和你是一代人，我們這代人就是這么覺得的，覺得活人的認(rèn)可比一個(gè)算法的認(rèn)可重要。但是我們小時(shí)候也沒有什么算法的認(rèn)可這回事，對吧？所以你打一開始你追逐的就是活人的認(rèn)可。如果小時(shí)候就告訴我算法的認(rèn)可也挺重要的。那我今天是不是另外一種想法我不知道，但我們畢竟已經(jīng)長大了。
第二點(diǎn)是我們所描述的是一個(gè)動(dòng)態(tài)的過程，所以它并不會(huì)讓你在一夜之間看到，它必須跟我們別的社會(huì)議程一道發(fā)生作用。我仍然想說的就是，我們剛才說的很多社會(huì)結(jié)構(gòu)的變化，其實(shí)在沒有AI時(shí)候也在發(fā)生。我們今天的領(lǐng)導(dǎo)層上越來越多見到女性，我們強(qiáng)調(diào)多元化（diversity）等等。這些東西長期以來只是被認(rèn)為一個(gè)純粹社會(huì)議題好聽點(diǎn)叫社會(huì)進(jìn)步，說難聽點(diǎn)叫白左的議程（agenda）。但不管怎么說，它是真實(shí)在發(fā)生的東西，但AI的介入會(huì)跟它同步發(fā)生，使得這個(gè)過程變得更加有趣，也難以預(yù)料。因?yàn)橛泻芏辔覀儌鹘y(tǒng)上被認(rèn)為重要的特質(zhì)會(huì)變得不再重要，所以整個(gè)權(quán)力結(jié)構(gòu)會(huì)因?yàn)锳I的參與進(jìn)來而發(fā)生重要的調(diào)整。而這部分我是很難用一個(gè)簡單的非黑即白的方式來把它總結(jié)出來的。我是在回答你一開始的問題。我們認(rèn)為哪些事情能夠不被取代？我不知道。因?yàn)樾碌臋?quán)力結(jié)構(gòu)中可能有一些新的角色出現(xiàn)，而這些角色在舊的世界里根本就不存在，所以我根本無法預(yù)料到。比方有些新的決策。也許AI溝通師或者什么之類的，根本以前不存在的角色，而這些角色可能會(huì)變成某些人的專長，我不知道。這是我要想說的第二點(diǎn)。
王磬：剛才說到我們從小怎么樣被教育的問題。確實(shí)，作為人來說，你是有成長期的，你過了成長期之后，其實(shí)你的這種價(jià)值觀、世界觀，你怎么樣去認(rèn)識(shí)你周圍的世界，這一套結(jié)構(gòu)已經(jīng)被建立起來的時(shí)候，其實(shí)我們就已經(jīng)變成了一個(gè)所謂的成熟的人，一個(gè)成年人。但是我不知道對于AI來說會(huì)不會(huì)其實(shí)會(huì)更是一個(gè)線性的過程，是一個(gè)扁平的過程。沒有所謂的比如青春期，也沒有人生，不會(huì)存在不同的階段，他可能也不會(huì)死亡。
木遙：它沒有人生，但它會(huì)有換代。我們?nèi)嗽谡w上來說，雖然我們每個(gè)人有人生一說，但我們的人性在整體上來說，上下限是比較固定的。而AI的特點(diǎn)是它每一代跟前一代都不一樣。所以你不是面對一個(gè)AI，你是面對好幾種不同的AI，每兩三年就會(huì)面對一個(gè)全新的AI，而那個(gè)AI又要讓重新適應(yīng)一遍，對吧？所以其實(shí)AI是一個(gè)更大的集合。AI的多樣性（diversity）其實(shí)比我們?nèi)说亩鄻有砸?，只不過我們今天只有一個(gè)玩家（player），就是ChatGPT。但很容易想象，10年后、20年后，這個(gè)世界上是有很多種完全不同的AI同時(shí)存在的，所以它每一個(gè)個(gè)體是固定的，但它們之間內(nèi)部的方差會(huì)遠(yuǎn)遠(yuǎn)大于我們?nèi)祟愔g的方差。
你剛剛說人類的適應(yīng)性的問題，我想一個(gè)很有意思的問題。我相信很多人也很關(guān)注的問題就是未來的教育哪些東西還重要，哪些東西變得不重要了。我們這代人的教育重要不重要，是我剛剛所說的那種我們現(xiàn)有的社會(huì)結(jié)構(gòu)決定的。我們認(rèn)為數(shù)理化最重要，其次是文科。我們都心知肚明。在我們念書的時(shí)候，理科是比文科被大家認(rèn)為是更好的專業(yè)。我知道今天網(wǎng)絡(luò)上會(huì)對這種問題有很敏感的反應(yīng)，但是我們不是說這件事情應(yīng)該如此。但是，我想說的是，我剛說的是工業(yè)革命的語序。工業(yè)革命讓我們覺得文史哲相對沒有數(shù)理化那么重要，或者是跟現(xiàn)實(shí)生活直接發(fā)生聯(lián)系，或者有影響（impact）。但是在AI介入之后，這個(gè)結(jié)構(gòu)會(huì)被打破。所以會(huì)不會(huì)走到下一代人，他們就會(huì)覺得“學(xué)好數(shù)理化，走遍天下都不怕”這句話沒有任何道理？我們今天是很難想象的，但是下一代人可能會(huì)覺得當(dāng)然應(yīng)當(dāng)如此。你學(xué)好數(shù)理化干什么呢？而且這種變化也不是沒有發(fā)生過。你想象一下清朝末年的最后一批翰林，他們面對的是同樣的情況，他們讀了一輩子四書五經(jīng)，靠著這個(gè)安身立命，靠著這個(gè)當(dāng)上大官。但他們下一代是完全不學(xué)這個(gè)了。
我小的時(shí)候曾經(jīng)有一個(gè)困惑，就是1840年英國人打過來了，那個(gè)時(shí)候難道你就沒有意識(shí)到四書五經(jīng)已經(jīng)沒法面對這個(gè)現(xiàn)實(shí)世界了嗎？為什么中國人要到60年后才取消科舉？你難道要花60年才能意識(shí)到科舉已經(jīng)完全沒有實(shí)際意義了嗎？后來我長大了，我就意識(shí)到這件事情的必然性了。為什么要60年？因?yàn)?0年差不多就是兩代人。一個(gè)小孩是沒有權(quán)利去取消科舉制度的，只有那些已經(jīng)功成名就、位高權(quán)重的大人們才有權(quán)利取消，而他們自己是科舉上來的。你讓1840年的那些宰相翰林大學(xué)士們?nèi)∠婆e是不可能的，因?yàn)樗麄冏约阂惠呑又唤?jīng)歷過科舉制度，他們的兒子那一輩30年后也不會(huì)取消科舉，因?yàn)樗麄冸m然在1840年的時(shí)候還不是掌權(quán)的人，但是也已經(jīng)30歲了，世界觀也已經(jīng)定型了。因?yàn)樗麄兊膶O子輩，1840年剛剛出生的人走上權(quán)力中樞之后，那要到60年后才取消，科學(xué)的真正的動(dòng)力才會(huì)大于阻力。物理學(xué)家普朗克說過一句很有名的話，“物理學(xué)的每一步前進(jìn)，都是由偉大的物理學(xué)家的葬禮構(gòu)成的”。沖擊再怎么劇烈，還是要兩代人才能完成觀念上的轉(zhuǎn)變。
今天很可能你仍然會(huì)發(fā)現(xiàn)，人的固有的慣性、生物上的慣性仍然會(huì)起作用，我們?nèi)匀粫?huì)試圖捍衛(wèi)我們這代人或者我們下一代人的世界觀，直到我們都死掉了，我們下一代人也垂垂老矣，再下一代人才會(huì)徹底迎接AI的新的時(shí)代。到那個(gè)時(shí)候，他們才會(huì)真正覺得，為什么人要花那么多時(shí)間去學(xué)習(xí)所謂的理工科知識(shí)，這些知識(shí)難道不應(yīng)該讓AI來做嗎？那一天的教育是什么樣子，我不知道。
今天還有很多人會(huì)說，你應(yīng)該去學(xué)習(xí)理工科的，甚至還有很多人讓你去學(xué)編程。我那天看到一個(gè)非常好玩的新聞，有一個(gè)非常著名的在線教育機(jī)構(gòu)，叫做Khan Academy，可汗學(xué)院，是一個(gè)非常著名的做在線教育的機(jī)構(gòu)。他們很快地跟GPT接觸，用GPT來改善他們的教育。一方面你會(huì)覺得不錯(cuò)，動(dòng)作好快。另外一面，你又會(huì)納悶說我到底為什么還要再學(xué)你這些課程？這個(gè)感覺就好像是你一個(gè)馬車夫，明明都看到汽車發(fā)明了，他興高采烈地去學(xué)開車。但你問他學(xué)開車干什么，是為了去更好地喂他自己的馬。你會(huì)有一種時(shí)空錯(cuò)置的感覺，他那些課程本身到底還有什么用？雖然我可以通過GPT作為助手學(xué)得更快，但是我為什么還要學(xué)這個(gè)東西？包括今天很多人還說人工智能是Python寫的，所以我要現(xiàn)在學(xué)Python。問題在于，人工智能固然是Python寫的，可是人工智能自己也會(huì)寫Python。所以你在一個(gè)已經(jīng)有了人工智能的時(shí)代，你為什么要去學(xué)Python？這些問題是真實(shí)存在的。但是人會(huì)有固有的慣性，我們不能夠一夜之間就調(diào)整到新時(shí)代。我們需要花很多時(shí)間，很可能要消耗到一兩代人的時(shí)間，才能夠真正跳轉(zhuǎn)過來。中間這個(gè)過程可能是非?；靵y的，可能是非常無序的，甚至可能是波浪型的，我不知道。
王磬：你這里就講到一個(gè)我覺得挺有趣的邏輯上的矛盾，就是人工智能仍然是由這些人工智能的軟件工程師書寫的。可以這么說，如果從現(xiàn)在開始，新的這一代，他們就已經(jīng)覺得學(xué)習(xí)編程是一個(gè)不需要再去學(xué)的事兒。他們可能永遠(yuǎn)都不會(huì)達(dá)到可以去編寫人工智能的水平。因?yàn)槟阋獙?，你肯定還是需要一系列的技術(shù)才能到達(dá)那個(gè)水平。如果是這樣子，未來的人工智能，它的更新?lián)Q代將會(huì)是一種什么樣的情況？自己給自己更新嗎？還是說會(huì)怎么樣？你為什么笑？這個(gè)問題很蠢是嗎？
木遙：不蠢，這個(gè)問題是非常好的問題，但是它過于科幻，以至于我很難忍住笑。我覺得長遠(yuǎn)來看，人工智能自己更新自己是一定會(huì)發(fā)生的。但是重點(diǎn)不在于長遠(yuǎn)，因?yàn)槟翘斓絹淼臅r(shí)候我們都死了，重點(diǎn)在于我們怎么過渡到那一天，中間是什么樣一個(gè)狀況。簡單的說，我不知道，因?yàn)槟銌柕膯栴}其實(shí)是一個(gè)不光是在編程領(lǐng)域，在各個(gè)領(lǐng)域都存在的問題，人工智能首先淘汰的是任何一個(gè)技能上的平庸勞動(dòng)者。這很容易理解，對吧？因?yàn)槿绻闶钦娴囊粋€(gè)極其出色的人，你仍然是有一技之長可以做得比較好的。但如果你只是平庸，只是平均（average）水平，人工智能就很容易把你去掉。但你馬上就會(huì)問，你把平庸的人都淘汰掉了，那些少數(shù)的人，他們從哪里成長起來，對吧？我就像我們剛才說了一個(gè)公司里面那些小張小王都被淘汰掉了，老板不會(huì)被淘汰，可是老板也不是天上掉下來的，他也得從小張小王那個(gè)地方干起來。用中國人的話說，“宰相必起于州部”，他必須從一個(gè)小官干起，一步步干到宰相。如果你把第一層的平庸的東西都干掉了，社會(huì)職業(yè)路徑是怎么樣的？我們沒有經(jīng)歷過這種情況，所以我不知道未來的社會(huì)到底怎么樣。如你所說，大家都不學(xué)Python，到底一個(gè)人怎么變成寫Python、寫人工智能的工程師？雖然那可能是個(gè)很小的群體，全世界只需要1000個(gè)人就夠了。但他的職業(yè)路徑是怎么樣的，我不知道，但我說我比較有把握的是這樣一種現(xiàn)象會(huì)一定會(huì)發(fā)生。
人工智能的出現(xiàn)，會(huì)極大地放大人和人之間技能差異所帶來的資源差異。這個(gè)過程不是新的。人類歷史就是這樣一個(gè)過程。在農(nóng)耕時(shí)代，一個(gè)好的農(nóng)民和一個(gè)壞的農(nóng)民的年的收成的差異，不會(huì)有特別大的差異，差出一倍撐死了。到工業(yè)革命時(shí)代，一個(gè)好的工程師或者一個(gè)好的技工，他所能創(chuàng)造的價(jià)值就已經(jīng)比一個(gè)平庸的人、平庸的技工創(chuàng)造價(jià)值要高很多了。因?yàn)闄C(jī)器可以放大差距的能力。到了編程時(shí)代，過去20年，你已經(jīng)會(huì)發(fā)現(xiàn)一個(gè)好的軟件工程師，他所能的創(chuàng)造的價(jià)值，他所能夠造成的社會(huì)影響，會(huì)遠(yuǎn)遠(yuǎn)高于一個(gè)平庸的、學(xué)了兩天Javascript就跑到社會(huì)上找工作的一個(gè)普通的碼農(nóng)，差距會(huì)非常非常的大。我曾經(jīng)跟磬有一次私下聊天聊過這個(gè)問題，Google有一個(gè)非常著名的工程師叫Jeff Dean。當(dāng)然了，很多人說他已經(jīng)不是工程師，應(yīng)該叫領(lǐng)導(dǎo)。但是他自己確實(shí)寫程序上來的，他今天也仍然在寫代碼，技術(shù)上來說，他也是一個(gè)碼農(nóng)。他和一個(gè)一般碼農(nóng)所能創(chuàng)造的價(jià)值的差別可能是成千上萬倍的。當(dāng)然，他拿的工資也確實(shí)是成千上萬倍。而AI會(huì)把這個(gè)曲線再進(jìn)一步推得更陡峭。AI會(huì)讓極少數(shù)控制AI、掌握AI的人，他們所作為資源的網(wǎng)絡(luò)的樞紐節(jié)點(diǎn)，他們所創(chuàng)造價(jià)值的能力和調(diào)動(dòng)資源的能力會(huì)遠(yuǎn)遠(yuǎn)超于普通的一半人。這是我們今天社會(huì)面對的真實(shí)問題。我們本來已經(jīng)面對很大的社會(huì)不平等了，但AI會(huì)把這個(gè)東西更進(jìn)一步地放大。這個(gè)現(xiàn)象很多人今天已經(jīng)發(fā)現(xiàn)了。今天如果你去推特上看業(yè)內(nèi)人士對AI的輔助編程這件事情的討論，大家都發(fā)現(xiàn)了一個(gè)現(xiàn)象，AI會(huì)成百上千倍的提高一個(gè)好的工程師的工作效率。只要你能夠很快掌握跟它共同工作的節(jié)奏和模式，它會(huì)讓強(qiáng)者更強(qiáng)的馬太效應(yīng)極其顯著。
所以在那種情況下就會(huì)發(fā)現(xiàn)，一般的社會(huì)職業(yè)也好，或者少數(shù)的我們小時(shí)候特定的編程這樣的工作也好，大量的工作是由極少數(shù)人承擔(dān)的，而那極少數(shù)人因?yàn)橛辛薃I的幫助，他會(huì)非常容易地調(diào)動(dòng)各種各樣的資源，而大量的人會(huì)完全無法跟上。這種社會(huì)結(jié)構(gòu)顯然是有它的問題的。社會(huì)不平等大家都知道是非常深刻的問題，但是它跟我剛剛說的大部分人會(huì)失去存在意義，或者會(huì)面對一個(gè)存在主義危機(jī)結(jié)合在一起，它會(huì)以什么樣的形式延續(xù)，它會(huì)不會(huì)導(dǎo)致整個(gè)社會(huì)的不穩(wěn)定？我不知道，因?yàn)榱宋覀儧]有碰到過這樣的情況，但是至少目前來看，趨勢確實(shí)是這樣的。
王磬：我覺得我們可以順著這里聊一下AI，或者我們先聊ChatGPT可能會(huì)面臨的倫理的問題，以及監(jiān)管的問題。我也在港中大課上跟我的學(xué)生簡單交流了一下，我就問他們，你對于ChatGPT可能最想了解的是什么？其實(shí)很有意思的是，不少同學(xué)都提到希望了解ChatGPT應(yīng)該可以怎么樣去更好的監(jiān)管。
我覺得這其實(shí)可能一方面是因?yàn)檎n上的大多數(shù)朋友還是文科生，所以我們思考問題的角度更是從一個(gè)社會(huì)治理的角度去思考。但另一方面，我覺得其實(shí)也能夠體現(xiàn)出某種程度的焦慮。在焦慮的情況下，可能是有一部分人會(huì)希望AI發(fā)展的更慢一點(diǎn)，給不受監(jiān)管\不受控制的這種野蠻生長去提供一定的阻力，或者提供一定的規(guī)范框架。所以我也想了解你是怎么樣看待這個(gè)事兒的?？萍急O(jiān)管這個(gè)事兒我覺得也是一個(gè)老生常談。我們知道在美國、在中國、在歐洲，其實(shí)不同的制度下對科技監(jiān)管是有不同的態(tài)度。像我比較熟悉的歐洲，其實(shí)對于這些年來比較主流、比較迅猛的一些科技發(fā)展，一些科技公司的壯大，都是采取了一種相對來說監(jiān)管為主的這樣一種思路。但在美國和在中國，一方面由于這種科學(xué)巨頭的存在，另一方面我覺得也跟本地的社會(huì)還有企業(yè)文化有關(guān)系，對監(jiān)管會(huì)呈現(xiàn)出一種可能相對來說更開放的態(tài)度。我不知道在你看來，你覺得對ChatGPT來說，我們現(xiàn)在去聊監(jiān)管是不是為時(shí)尚早，還是我們現(xiàn)在去聊它已經(jīng)有點(diǎn)晚了。
木遙：首先，我百分之百的同意AI必須以合適的方式監(jiān)管。但監(jiān)管本身是一個(gè)含義模糊的詞，根本不讓AI發(fā)展也是一種監(jiān)管。但很顯然，這未必是你想要的監(jiān)管。你剛說到中國、美國、歐洲的差別，我相信你自己在歐洲，你一定對這個(gè)情況非常熟悉。歐洲一方面確實(shí)它監(jiān)管更嚴(yán)厲，但另外一方面，它也因此在過去20年的科技浪潮中明顯落后于中國。所以它固然避免了很多問題，但其結(jié)果就是今天的互聯(lián)網(wǎng)巨頭可能一半在中國，一半在美國。在歐洲的幾乎沒有，不是完全沒有，但是明顯落后了，跟歐洲應(yīng)當(dāng)在科學(xué)技術(shù)浪潮中的應(yīng)有的地位完全不相稱。
王磬：而且某種程度上我了解到的正好是因?yàn)樗鼪]有這種科技巨頭，所以它在通過一些監(jiān)管法案的時(shí)候，它面臨的游說的阻力更小。所以它是有點(diǎn)相輔相成的過程。
木遙：對，它就變成一個(gè)惡性循環(huán)了。因?yàn)檎筒⒉恍枰櫦删揞^的壓力，所以政客就可以通過各種各樣的立法，通過立法之后，他又未必真的懂這一行。其實(shí)我說立法可能扼殺了創(chuàng)新，或者至少阻礙了創(chuàng)新，更加難于生長出新的巨頭出來。但總而言之，我不知道歐洲的政界怎么看待這個(gè)問題，但是至少你從一個(gè)旁觀的角度來看，它確實(shí)落后了，對吧？可能在監(jiān)管上沒有落后，但是在經(jīng)濟(jì)上、在技術(shù)上都落后，這種落后長遠(yuǎn)來看是福是禍，很難講。特別是歐洲人，你也知道，他本來可能覺得我生活也就挺好了，我干嘛要像中國人那樣卷對吧？每年夏天我去海邊度假就好了，我并不需要科技巨頭，這當(dāng)然也是一種生活哲學(xué)。但是當(dāng)這種差別更大的時(shí)候，我不知道歐洲人能不能還那么心平氣和。如果他發(fā)現(xiàn)AI真的是新的工業(yè)革命，而他被工業(yè)革命放棄了。就像早年的工業(yè)革命誕生于英國，從歐洲擴(kuò)散到整個(gè)全球。如果今天反過來，歐洲變成了工業(yè)革命的洼地，我不知道歐洲人會(huì)怎么來理解這個(gè)事情。
但是到監(jiān)管的時(shí)候，你必須要考慮的一個(gè)問題是，你不能做膝跳反射式的監(jiān)管。什么叫膝跳反射式的監(jiān)管？你在還沒有了解這個(gè)事情的本質(zhì)之前，就憑著恐慌或者憑著焦慮來做很容易被時(shí)代拋棄的決定，你的決定很可能不是基于完備的事實(shí)做的，也不是基于對長遠(yuǎn)的深刻洞察做的，而是基于你在那一刻的本能反應(yīng)做的。這種監(jiān)管很容易變得毫無意義，要么過度嚴(yán)厲，要么被現(xiàn)實(shí)拋在后面。
在這點(diǎn)上，我其實(shí)……下面這句話很可能又會(huì)引起很多爭議，但是我是對所謂的文科輿論界也罷，知識(shí)界也罷，對這件事情的反應(yīng)，讓我是覺得有點(diǎn)失望的。因?yàn)槲矣X得大部分我看到的反應(yīng)、大部分我看到的批評(píng)。都不在點(diǎn)上的批評(píng)就不是真正的批評(píng)，也不能構(gòu)成有效的監(jiān)管，這很容易理解，對吧？我剛才已經(jīng)舉了一個(gè)例子，就喬姆斯基那里。但他畢竟90多歲，大家知道他老了。但另外一個(gè)很好的例子就是前一陣子非常流行的那篇文章，姜峯楠那篇寫在紐約客上的文章。他的那篇文章是發(fā)在1月份，他自己是科幻作家，大家認(rèn)為科幻作家應(yīng)當(dāng)是比較有前瞻性的，但是他那篇文章就非常落后于現(xiàn)實(shí)發(fā)展。他寫得非常好，那篇文章本身寫的就文章而言是很好的，唯一的問題就是它落后于現(xiàn)實(shí)。它文章的結(jié)語是，ChatGPT不過是關(guān)于現(xiàn)實(shí)互聯(lián)網(wǎng)的一個(gè)拙劣的、模糊的復(fù)印機(jī)，你有真實(shí)的世界在那里，你要復(fù)印機(jī)干什么？這個(gè)結(jié)論是，說白一點(diǎn)，錯(cuò)的。ChatGPT并不是現(xiàn)實(shí)世界的復(fù)印機(jī)。我相信他如果哪怕推遲兩個(gè)月寫文章，他都不會(huì)把文章寫成那樣，因?yàn)榻裉斓默F(xiàn)實(shí)已經(jīng)非常明確地揭示這一點(diǎn)。這文章寫得很早，所以他做出了一個(gè)在我看來膝跳反射式的反應(yīng)。如果你基于這樣的反應(yīng)來做監(jiān)管，當(dāng)然不會(huì)形成任何有意義的監(jiān)管。
這反映一個(gè)現(xiàn)實(shí)問題就是，我們不說文科生或者怎么樣，但是確實(shí)大部分人，如果他不處在這個(gè)技術(shù)的核心地帶，他確實(shí)容易因?yàn)榧夹g(shù)上就不是很了解，所以會(huì)有各種各樣不正確的反應(yīng)。如果你是個(gè)老百姓，當(dāng)然無所謂，但如果你是知識(shí)界的重要領(lǐng)袖，或者你是政客，你是能夠真正參與監(jiān)管過程的人，你在你不了解的時(shí)候就做出反應(yīng)，就會(huì)導(dǎo)致這樣的誤區(qū)。但是了解又非常困難，因?yàn)橐粋€(gè)人可能沒有這樣的知識(shí)儲(chǔ)備，對不對？我相信像神經(jīng)網(wǎng)絡(luò)這樣的詞，你今天也耳熟能詳了。但是大部分如果不是做這一行的人其實(shí)對神經(jīng)網(wǎng)絡(luò)只有一個(gè)非常抽象的、模糊的概念。了解到底什么叫一個(gè)神經(jīng)網(wǎng)絡(luò)，一個(gè)神經(jīng)網(wǎng)絡(luò)有多大，怎么運(yùn)行，是沒有一個(gè)上手的概念的。在這種情況下，你到底怎么監(jiān)管？你是不是要等到他已經(jīng)全世界開花結(jié)果了再去監(jiān)管？那個(gè)時(shí)候確實(shí)太晚了。但你早期監(jiān)管的時(shí)候，你怎么介入？所以我覺得比較重要的辦法就是多進(jìn)行像我們今天這樣的討論，盡早了把不熟悉技術(shù)背景，但又在輿論場上，或者在政治上，或者在知識(shí)上，重要的既是業(yè)外又能夠影響社會(huì)的聲音納入進(jìn)來。
讓大家能達(dá)成一些共識(shí)（on the same page），至少在事實(shí)層面上弄清楚發(fā)生了什么，什么即將發(fā)生，它的能力的上限在哪里？哪些事情我們今天仍然不認(rèn)為它能做到，哪些事情你們以為它其實(shí)不可能做到，但是它其實(shí)今天已經(jīng)能做到了。把這些事情先弄清楚，再來談我們該怎么監(jiān)管的問題，對不對？有些問題可能是吸引眼球的，比方我們禁止它談戀愛，或者禁止它給人看病。有些東西是更本質(zhì)的，和我剛剛說的，如果它極大地沖擊了我們今天社會(huì)上已經(jīng)很加劇的不平等，怎么辦？我們有沒有社會(huì)上的好的機(jī)制去介入，去做一個(gè)補(bǔ)助，或者是一個(gè)對人的關(guān)懷。這些問題是更現(xiàn)實(shí)，說老實(shí)話，也更緊迫的。
王磬：說到監(jiān)管的問題，我覺得其實(shí)這幾年不光是歐盟相對比較偏嚴(yán)格的立法的思路，還是在美國之前這些科技巨頭去國會(huì)做聽證的時(shí)候，你也能看出來。其實(shí)我覺得很多的議員對科技是非常缺乏了解的，如果你考慮到他們的年紀(jì)，也對這個(gè)情況并不意外，可能他們能夠問出的一些問題是他們的助手給他們的，他們自己可能本身對這樣的最新的技術(shù)進(jìn)步并不感興趣，但他們手中同時(shí)握有非常大的關(guān)于這個(gè)社會(huì)應(yīng)該如何結(jié)構(gòu)的權(quán)利。就是你剛剛提到的為什么要花60年才能夠廢除科制。所以我覺得這是一個(gè)可以是人類遺留的一個(gè)這種劣根性的問題。
另一個(gè)問題，我覺得可能對于當(dāng)下的人來說更迫切的一個(gè)問題，你剛才也提到的，我們需要讓不管是哪個(gè)行業(yè)，哪個(gè)領(lǐng)域是文科生、理科生，是中國人、美國人、歐洲人，大家可能需要對一些即將改變我們生活的科技技術(shù)有一個(gè)相對來說在同一個(gè)水位上的認(rèn)識(shí)。我覺得認(rèn)識(shí)其實(shí)是很難達(dá)到的，某種程度上在集體層面上去提高這種觀念的水位。比如到一個(gè)比較實(shí)際的問題，你今天提到了很多次，說我們應(yīng)該為社會(huì)去做準(zhǔn)備，因?yàn)樗皇羌磳l(fā)生，它是已經(jīng)在發(fā)生、正在發(fā)生。如果要你給出一些建議，你會(huì)給出怎樣的建議？我們可以怎樣去為社會(huì)做準(zhǔn)備？
木遙：這是個(gè)很好的問題。我先給你講一個(gè)我自己的體驗(yàn)。我自己在網(wǎng)上經(jīng)常會(huì)聊這個(gè)事情，我發(fā)現(xiàn)當(dāng)我長篇大論地講我覺得技術(shù)大概怎么回事的時(shí)候，當(dāng)然反應(yīng)也很好。但是反應(yīng)最好的永遠(yuǎn)是，我貼出一個(gè)視頻說你看現(xiàn)在也可以干這個(gè)了。這種事情當(dāng)然讓你覺得有點(diǎn)好笑，因?yàn)槟愀冻龅膭趧?dòng)反而后者是最輕的，你就貼一個(gè)視頻就可以了。但是我們社會(huì)就是這么運(yùn)作，對不對？大家你看一個(gè)長文，想象它給你帶來的影響總是不直觀的。而直觀就是，哇，AI可以干這個(gè)了，一個(gè)短視頻，越短越好，1分鐘以內(nèi)，你放到抖音上，馬上一夜之間，所有人都看到。大家說怎么辦，失業(yè)了。這種沖擊是最強(qiáng)烈的。這當(dāng)然是一個(gè)非常尷尬，也不是一個(gè)很理想的狀況。但是這是一個(gè)真實(shí)的狀況。你剛剛說的關(guān)鍵的水位很難持平。如果是1840年那個(gè)時(shí)候，你讓大家都接受科舉制，已經(jīng)過時(shí)了，很困難。今天的好處，也不能叫好處。今天現(xiàn)實(shí)是，你不用真的等那么久，因?yàn)榇蠹液芸炀蜁?huì)見到真實(shí)的東西了。
1840年那個(gè)時(shí)候，畢竟你讓中國一個(gè)內(nèi)陸縣城感受到洋人的沖擊，沒有那么劇烈，對不對？頂多能見到一個(gè)火柴，但是他們可能見不到。鐵路修建需要時(shí)間。但是今天你再怎么對技術(shù)懷疑的人，其實(shí)也你也不需要跟他爭論，因?yàn)閹滋熘?，他就?huì)在現(xiàn)實(shí)面前敗下陣來，對吧？他周圍人都開始在office用的時(shí)候，不再打一整行字了，他就直接在旁邊問我現(xiàn)在想寫這么個(gè)東西，幫我列一個(gè)稿子來，它就列出來了。你再怎么懷疑技術(shù)的人，他也很快就會(huì)用上這個(gè)東西。這是一個(gè)事實(shí)層面的征服它的過程。所以關(guān)鍵首位反而是比較容易持平的。因?yàn)榇蠹視?huì)眼見為實(shí)。你讓大家想象一個(gè)未來是比較吃力，但是你讓他看到大家比較認(rèn)可，你讓他用到，他就更加啞口無言了。我剛才說我律師朋友，他自己其實(shí)是非常非常不喜歡探索新技術(shù)的人。他你讓他說服他用一個(gè)新的APP是非常困難的。他真的一用，他發(fā)現(xiàn)這東西真的管用，他很快就會(huì)被說服。但是被說服這東西有意義、這東西有影響是一回事，做好準(zhǔn)備是另外一回事。因?yàn)楹芏嗳宋覄偛耪f了，他不是資源的占有者，他很可能是在浪潮中間被擺布的、被淘汰的，或者至少是被沖擊的對象。他可以說好的，我現(xiàn)在知道了，我觀念跟上了，我知道office可以干這個(gè)了，我本來花上1小時(shí)才能做到幻燈片，他2秒鐘就給我干好了，但這只能說明我老板不需要我了，我該怎么辦？首先，我最大的回答，當(dāng)然是最簡單的回答就是我不知道，因?yàn)槲掖_實(shí)不知道。但是如果你今天是一個(gè)仍然在職業(yè)生涯初期的人，我覺得有一個(gè)可能是老生常談，但也確實(shí)真實(shí)有效的回答是這樣的。你必須意識(shí)到，當(dāng)大潮襲來的時(shí)候，你最大的資產(chǎn)，一是你的安全保障。安全保障當(dāng)然體現(xiàn)在各種方面，而且這東西很大程度上也不是你自己能夠想有就有的，也取決于你的家境或者怎么樣。但是安全保障是第一位。
王磬：富二代水位會(huì)高一點(diǎn)是嗎？富二代就在泰坦尼克的……開玩笑，你說。
木遙：不是開玩笑，這是真實(shí)的。但是第二個(gè)問題就是你保持自己的靈活性。靈活性體現(xiàn)在，不管發(fā)生了什么樣的未來，你都有以某種方式可能是你比較不好想象的方式去面對它，包括很多人開玩笑，好的，我也會(huì)去給人送外賣，或者好的，我也會(huì)去當(dāng)廚子，有開玩笑的成分。但是無論如何，你越有選擇，或者你越能夠保持自己的選項(xiàng)的靈活性（flexibility），你就越能夠迎接變化。你越早把自己鎖死在一個(gè)道路上，你就越不容易迎接變化。今天很多在互聯(lián)網(wǎng)上的關(guān)于AI討論，下面最常見的評(píng)論是什么？說，好的，我明天就去考公。因?yàn)槟阒?，對中國人來說，宇宙的終點(diǎn)是體制，考公永遠(yuǎn)顯得像是最后的救生衣。但考公就是一個(gè)非常典型的把自己的所有路徑都鎖死的一個(gè)東西。我不是說大家不能考公，我只單純說這是限縮了自己的選項(xiàng)。當(dāng)你限縮了自己的選項(xiàng)之后，當(dāng)大潮襲來的時(shí)候，你的靈活性就會(huì)降低，你的安全感就會(huì)降低，你就會(huì)更加深刻地陷入焦慮。所以我知道這話聽起來非常的虛，而且這也不是什么有操作項(xiàng)（action item）的建議。但是保持自己的靈活性（flexibility）可能是面對大潮的時(shí)候，能為自己做的最好的事情。
王磬：我分享幾個(gè)最近也是在網(wǎng)上看到的和身邊接觸到的關(guān)于ChatGpt的段子。就一個(gè)是ChatGpt接下來就會(huì)把我們的智力情感的功能部分取代，甚至是全部的取代。我們還剩什么？還剩一副皮囊，不如從今天開始就每天去健身房，起碼是ChatGPT不能夠取代的一副美麗的皮囊。
第二個(gè)也是我在課上也跟我的一個(gè)學(xué)生交流，我就說其實(shí)像他們現(xiàn)在都還在念本科生、研究生。就像你剛剛提到的這種職場初期，可能還沒有進(jìn)入即將步入職場的這么一群人。其中一個(gè)女孩，她之前是特別喜歡寫作，我就問她，你現(xiàn)在知道ChatGPT，它可能會(huì)在未來有這樣的一些影響，你會(huì)怎么樣去調(diào)整自己現(xiàn)在的時(shí)間分配？他現(xiàn)在可能就會(huì)希望能把更少的時(shí)間放在寫作上，因?yàn)樗l(fā)現(xiàn)ChatGPT已經(jīng)可以寫出非常漂亮的、非常精準(zhǔn)的句子。所以更多的時(shí)間放在寫作上，會(huì)讓她覺得浪費(fèi)時(shí)間，浪費(fèi)精力，不能夠?qū)ξ磥砣プ龀鲆粋€(gè)更好的準(zhǔn)備。這些時(shí)間要放在哪？她的回答是，她希望能夠放在更有創(chuàng)造力的工作上，能去做一些更有創(chuàng)意性的事兒。
我覺得這里就陷入一個(gè)其實(shí)有點(diǎn)吊詭的狀態(tài)。首先，在過去，在我們看來，寫作本身就是一個(gè)具有創(chuàng)造性的事兒。其次，如果寫作都不算是一個(gè)具有創(chuàng)造性的事兒了。什么樣的事兒？在ChatGPT的時(shí)代，它仍然是具有創(chuàng)造性的，它仍然是足夠創(chuàng)新，足夠創(chuàng)意，以至于它不可能會(huì)被ChatGPT取代的，因?yàn)檫@種創(chuàng)業(yè)性的工作不會(huì)被人工智能取代。我覺得這也是一個(gè)科技界的這種老生常談，我不知道是不是就講出來安慰文科生的。但是我這幾天在比如網(wǎng)上刷一些評(píng)論的時(shí)候，也看到ChatGPT，它其實(shí)現(xiàn)在也可以部分地去進(jìn)行創(chuàng)造了。我也想把這個(gè)問題丟給你。你覺得這種我們可以把人的精力、智慧更多投入在創(chuàng)造性的工作，而不是重復(fù)性的工作上。這個(gè)說法在ChatGPT時(shí)代是站得住腳的嗎？是可以讓我們免受沖擊或者減少我們所受的沖擊的一個(gè)行動(dòng)嗎？
木遙：你剛剛講了兩個(gè)事情，我覺得都挺值得回應(yīng)的。我現(xiàn)在先回答第二個(gè)問題。
王磬：你不要先回答一下漂亮的皮囊的問題嗎？
木遙：我先回答第二個(gè)問題，然后回頭來討論皮囊的問題。第二個(gè)問題是創(chuàng)意的問題。我的簡單的回答是可能不是那么簡單。今年2月份有一個(gè)論文是討論怎么用GPT幫助科研工作者做research，他就找了一個(gè)領(lǐng)域，讓GPT來完成四個(gè)任務(wù)。一個(gè)任務(wù)是產(chǎn)生新的idea，一個(gè)任務(wù)是綜述已經(jīng)有的工作，一個(gè)任務(wù)是準(zhǔn)備數(shù)據(jù)，一個(gè)任務(wù)是實(shí)現(xiàn)和測試。你聽起來這4個(gè)任務(wù)，第一個(gè)任務(wù)就是你剛剛說的更接近于人所說的創(chuàng)造情況，對不對？產(chǎn)生新的idea。后面那些聽起來好像更瑣碎一點(diǎn)，更技術(shù)性一點(diǎn)。他把這四個(gè)任務(wù)都交給GPT來做，把GPT的工作交給專家來打分。最后發(fā)現(xiàn)什么？發(fā)現(xiàn)GPT得分最高的是第一項(xiàng)，不是2、3、4。為什么？因?yàn)楫a(chǎn)生新想法這個(gè)事情反而落到了GPT的強(qiáng)項(xiàng)，它從已有的各種各樣的知識(shí)的海洋中，我們不管這個(gè)比喻什么意思，或者一堆語詞的海洋之中找到可能可以連接，但人們還沒有想出連接的東西出來，把它作為一個(gè)新的idea，propose出來，這個(gè)東西反而讓它來做更有效。真正的你讓他老老實(shí)實(shí)去準(zhǔn)備數(shù)據(jù)測試，可能反而……至少今天的AI水平就那么回事。
這個(gè)故事告訴我們兩件事情。第一就是所謂的創(chuàng)造性活動(dòng)，其實(shí)沒有那么不容易被AI所攻克，AI是可以做這種事情的。第二，存不存在AI暫時(shí)也做不到的?真正的創(chuàng)意一定存在。我們能找到某些極端的例子，在藝術(shù)上，在科學(xué)上，在文化觀點(diǎn)上，完全原創(chuàng)性的，它不存在在既有的世界上的東西完全從無到有地創(chuàng)新出來。我舉個(gè)很簡單的例子，假如今天沒有比特幣，ChatGPT能不能設(shè)想出比特幣這樣的東西？我其實(shí)有點(diǎn)懷疑，因?yàn)樗鄙僖环N完全新的想法。這東西不是從既有想法中間聯(lián)系出來的，它是一個(gè)新的東西。當(dāng)然你也可以。它其實(shí)是把某一個(gè)idea跟某一個(gè)idea放在一起，它總不可能真的從天上掉下來。但是它不能夠從現(xiàn)有的所謂的知識(shí)元素的海洋之中挖掘出來。這樣的例子是有的，但是這樣的例子本來對普通人來說也沒什么實(shí)際用處，你一個(gè)普通人有多大的幾率在一生中發(fā)明一個(gè)像比特幣這樣的東西，不太可能，對不對，所以它作為一種安慰是沒有什么意義的。你必須要真正非常非常原創(chuàng)才夠用。那1000萬個(gè)人中只有一個(gè)人，這對大部分來說不構(gòu)成任何實(shí)際的操作性。這是我對你第二個(gè)問題的回應(yīng)。這是一個(gè)不太振奮人心的回應(yīng)，但是結(jié)論就是原創(chuàng)性這個(gè)東西，至少平庸的原創(chuàng)性或者日常普通的老百姓可以達(dá)到的。原創(chuàng)性其實(shí)沒有那么神秘，AI是可以達(dá)到的。
第一個(gè)關(guān)于皮囊那個(gè)問題，我覺得它不是一個(gè)段子，它是一個(gè)真實(shí)的問題，就是皮囊聽起來有點(diǎn)過于物質(zhì)化，對吧？你就可以靠整容來獲得一個(gè)好的皮囊。但是我剛才說了，在未來的職場上，或者是未來社會(huì)結(jié)構(gòu)上，AI可能最無法取代人類的，是關(guān)于人的互動(dòng)（interaction）的部分。你怎么樣說服一個(gè)人，你怎么樣領(lǐng)導(dǎo)一個(gè)人，你怎么樣團(tuán)結(jié)一幫人，你怎么樣去塑造共識(shí)，怎么樣去彌合分歧。而這些東西確確實(shí)實(shí)在很大程度上是依賴于我們?nèi)俗鳛樯锷系娜说囊恍┨匦缘摹?/p>
如果你在過去的時(shí)代，你說職場上長得好看的人會(huì)被優(yōu)先提拔，雖然大家知道這可能是真的，但是大家認(rèn)為他至少不應(yīng)當(dāng)如此。你應(yīng)當(dāng)提拔是誰的？應(yīng)當(dāng)提拔是能干的，聰明的，而不是長得好看的。但是如果你的能干和聰明被AI取代了，你剩下的可能也確實(shí)就是好看了。
王磬：天哪，普通人到底要怎么辦？
木遙：但是我這里來把他說的政治正確一點(diǎn)。我們這里說的好看，不是弄一張網(wǎng)紅臉那種好看，而是更抽象的領(lǐng)導(dǎo)力（leadership），或者是影響人的能力。
王磬：克里斯瑪。
木遙：對，克里斯瑪，這個(gè)詞比較政治正確一點(diǎn)。不是單純搞一個(gè)韓式半永久就可以搞定的，它需要一些更抽象的東西。但確實(shí)這個(gè)東西對AI來說是最困難的。因?yàn)檎f老實(shí)話，當(dāng)你說我們應(yīng)該提拔最聰明的，其實(shí)難道聰明不是也是一種類型上的生殖彩票嗎？為什么？聰明作為天生的天賦作為評(píng)價(jià)人的標(biāo)準(zhǔn)就好像很合理，而皮囊也是一個(gè)DNA矩陣，就不合理？你仔細(xì)想想看，這件事其實(shí)也沒什么必然性，它也是一個(gè)工業(yè)革命建構(gòu)出來的觀念。所以這個(gè)觀念既然可以被建構(gòu)出來，它也是可以被打破的。你沒有理由認(rèn)為100年后的人們?nèi)匀话崖斆髋旁谄つ抑?，因?yàn)樗鋵?shí)也沒有什么特別本質(zhì)的原因。所以，克里斯瑪這個(gè)詞會(huì)好一點(diǎn)，這個(gè)東西可能是如果你今天想自我改造，從自己身上做起，可能著手都比較有效的途徑。鍛煉自己的影響力，鍛煉自己的溝通能力，鍛煉自己建立（build）一個(gè)團(tuán)隊(duì)的能力，鍛煉自己，用美國人喜歡說的那套MBA的詞促成事情發(fā)生（make things happen）的能力。這個(gè)東西可能仍然是真實(shí)的。所以我覺得第一個(gè)反而不是一個(gè)段子，它是一個(gè)確實(shí)存在的問題。
王磬：現(xiàn)在聽完了今天這2個(gè)小時(shí)的科普也好，解釋也好，就是自己覺得確實(shí)覺得我自己會(huì)需要更多的消化一下。我覺得不光是它作為這種技術(shù)上的基本的結(jié)構(gòu)，也包括它可能會(huì)帶來的一些這種社會(huì)上的影響。如果往深一點(diǎn)去想，它真的是會(huì)重塑社會(huì)的方方面面。我平時(shí)很少講這個(gè)話，因?yàn)槲矣X得這是一個(gè)非?？盏脑?。說白了，任何一個(gè)小的這種進(jìn)步，它都有可能達(dá)到這樣的一個(gè)目標(biāo)。但是我在今天聽了這2個(gè)小時(shí)之后，我確實(shí)會(huì)有這樣的一個(gè)感覺。如果我稍微往深去想，它確實(shí)是會(huì)重塑我們社會(huì)的方方面面，從我們的工作，從我們休閑的方式，我們跟人打交道的這種方式，我們的教育，我們對于社會(huì)中什么樣的角色是更有優(yōu)先級(jí)的或者更本質(zhì)的。我們作為人之所以為人的這種更存在主義的一些思考，我覺得它確實(shí)是一個(gè)非常非常值得去實(shí)時(shí)的關(guān)注、保持更新的一件事兒。最后我想問一下木遙老師，你個(gè)人有在為這一場變革的到來做一些個(gè)人層面的準(zhǔn)備嗎？
木遙：我覺得我能夠做的最目前來看最重要的事情就是，我得理解它發(fā)生了什么事情。即使我自己程序員出身，所以理解起來可能比一般人容易一點(diǎn)，我也仍然覺得要跟上每天新的東西的沖擊是一個(gè)很困難的事情。真的太快了。這周二ChatGPT4發(fā)布的那一天，推特上有個(gè)段子說3月14號(hào)那天剛好是π day，所以Google和OpenAI都推了新的東西出來。網(wǎng)上有段子說，2023年3月14號(hào)是人工智能發(fā)生史上重要的一年，它的意思是，那一天發(fā)生的事情就像平常一年發(fā)生的事情一樣。你想跟上這個(gè)速度是很困難的事情。所以我覺得我努力跟上，努力了解它的潛力，努力了解有什么事情可以自己上手去做，這也很困難。我也周圍有很多朋友在做類似的事情，我們每天會(huì)交流有什么新的工具出來，這些東西可以試著用一下。它的好處是你真的很容易上手。以前你要一個(gè)心動(dòng)技術(shù)出來了，你要把手頭既有的東西放下去學(xué)它是有點(diǎn)心理障礙的。這東西只要你有點(diǎn)技術(shù)上的積累，要上手沒有很困難。你可能找一個(gè)周末，花上4個(gè)小時(shí)，就可以做出很多很多東西出來了。這也不是開玩笑，GPT4發(fā)布的時(shí)候，他照了自己紙上的草稿，交給GPT。幾秒鐘之后就生成了一個(gè)網(wǎng)站出來。大家說OK，你既然說得這么厲害，我來試試看。然后一夜之間，真的是一夜之間。Twitter上就出現(xiàn)了用GPT4來做一個(gè)小游戲，用GPT4來做一個(gè)APP，用GPT4來做一個(gè)互動(dòng)性的服務(wù)。都出來了。這種時(shí)候，一方面會(huì)讓你覺得焦慮，大家動(dòng)作好快，一方面也會(huì)讓你覺得有信心，因?yàn)槟阌X得好像也沒有很困難，這么多人幾個(gè)小時(shí)都做出來，我應(yīng)該也可以。所以上手是比較容易的事情。積極地投入進(jìn)去可能是我今天能做的最容易的事情。當(dāng)然，你可能會(huì)問，我不會(huì)寫程序，我連上手都不會(huì)怎么辦？我也不知道。這不是一個(gè)很容易回答的問題，但是對我來說，跟上技術(shù)浪潮本身既有挑戰(zhàn)性，但同時(shí)還挺有樂趣的。
王磬：我問一個(gè)也許普通人也能夠有一定參與感的問題。比如，如果作為一個(gè)不是特別有技術(shù)背景的人，想比較快的、比較及時(shí)的去跟上現(xiàn)在的一些信息，你有什么推薦的工具或者信源嗎？
木遙：最簡單的辦法就是了解這樣一個(gè)總規(guī)則。直接去看源頭，你就應(yīng)該直接去看源頭，會(huì)比較快。多看一線的資淺的但是活躍的工作人員的討論，少看所謂名人（big names）的討論。因?yàn)樵绞枪Τ擅偷娜?，不是說他們的觀點(diǎn)一定是錯(cuò)的或者落伍的，但他們不是在一線工作的。所以他們第一還未必有那些名不見經(jīng)傳的一線工作人員的知識(shí)來得更新。第二他們會(huì)很容易受到他們既有成見的影響。比方我們大家都知道一個(gè)非常著名的人工智能專家，圖靈獎(jiǎng)獲得者Yann LeCun（燕樂存），他是一個(gè)非常重要的專家。但是他在過去幾個(gè)月里面一直在連篇累牘地寫為什么這東西不重要，或者這東西方向是錯(cuò)的。這是不是意味著他已經(jīng)徹底被時(shí)代拋棄了？那也不一定，但是他確實(shí)有他的成見在，他覺得這個(gè)方向價(jià)值不如大家想象那么大。但是他最近好像漸漸也開始承認(rèn)這個(gè)比他想象的要更有價(jià)值了。而這種錯(cuò)誤，一線的研究人員是不容易犯的，而一線人員很多人是非常活躍的用社交媒體的。所以最簡單的辦法就是你去推上關(guān)注那些今天正在Berkeley，今天正在MIT，或者今天正在OpenAI，今天正在deep mind做這個(gè)東西的人。他們很多人是保持非?；钴S的社交媒體的曝光的。去關(guān)注他們，去看他們的討論是最容易跟上浪潮的方法，而且他們會(huì)彼此爭吵。你通過他們之間的爭論，就能夠更容易獲得很多insight。
我覺得其實(shí)我們都在面對一個(gè)非常大的未知，而這個(gè)未知很可能會(huì)超越我們之前的未知。我們之前的未知會(huì)帶來一種想象，而這個(gè)未知會(huì)帶來一種恐慌。我承認(rèn)這一點(diǎn)，而且我也非常理解這一點(diǎn)。但是我自己從我自己的社交媒體上的活動(dòng)所后面收到的反饋，最大的感受是很多人仍然在用一種看熱鬧的方式來理解這件事情。他們可能會(huì)借機(jī)抒發(fā)一些焦慮，甚至借機(jī)抒發(fā)一些不滿。比方，很多人會(huì)借機(jī)討論為什么我們中文的語料不如英文的語料好，因?yàn)閎lah blah。這些當(dāng)然都是非常真實(shí)的情緒，但是有的時(shí)候會(huì)讓你覺得很多人是在用一種情緒化的方式在看待這件事情。我們當(dāng)然都知道今天的互聯(lián)網(wǎng)本來就是這樣，每件事情都顯得像是一個(gè)鬧?。╠rama）一樣，大家會(huì)用一種看熱鬧的方式來理解我們周圍生活中的每個(gè)變革。但這件事情，我覺得它比一般意義上的表面的鬧劇要更深入一點(diǎn)。所以它值得你去拋棄成見與拋棄膝跳反射式的情緒化反應(yīng)，而去更仔細(xì)地理解一些事情，包括理解一些平?？赡懿粫?huì)問自己的問題，比方說什么對你的人生來說是最重要的。如果今天你對人生的理解被證明是要被推翻了，或者至少是要被潮水沖破了，你將以什么樣的方式來重塑你對人生的觀念？或者再問的極端一點(diǎn)，這種問題一般人不會(huì)每天問自己，如果你今天可以選擇你人生的一個(gè)目的（purpose），這個(gè)目的會(huì)是什么才最讓你覺得，即使你的工作被AI取代了，它也仍然能讓你覺得你在這世界上安身立命是有意義的。
鄂公網(wǎng)安備 42010302001612號(hào) 