【編者按】
我們是如何獲得心智的?盡管我們對蛋白質(zhì)、神經(jīng)元和DNA內(nèi)部工作機制的理解比以往任何時候都更加深入,但我們的心智是如何形成的這個問題在很大程度上仍然是一個謎?!稄募毦桨秃赵倩貋怼芬粫恰吨庇X泵和其他思考工具》一書作者丹尼特的新書,在書中他對進化思想進行了全面的探索。他以計算機科學(xué)和生物學(xué)的思想為基礎(chǔ),展示了具有理解能力的心智實際上是如何從無意識的自然選擇過程中產(chǎn)生的。丹尼特解釋說,當(dāng)人類發(fā)展出分享模因的能力,或者不基于遺傳本能的做事方式時,一個重大轉(zhuǎn)變就發(fā)生了。語言本身由模因組成,它加速了這種相互作用:模因之間的競爭(自然選擇的一種形式)產(chǎn)生了精心設(shè)計的思維工具,這種思維工具又使我們有能力設(shè)計自己的模因。結(jié)果,一種不僅能夠感知和控制,而且能夠創(chuàng)造和理解的心智,在很大程度上是由文化進化過程塑造的。
本文摘自該書第15章《后智能設(shè)計時代》的《未來我們會怎么樣》一節(jié)。
人工制品已經(jīng)存在,并且還有更多的人工制品正在研發(fā)中。它們的能力遠超人類,以至于將篡奪人類作為專家所具有的權(quán)威,而自人工智能時代開啟以來,這種權(quán)威一直都是毋庸置疑的。當(dāng)我們將支配權(quán)交給這些人工制品時,我們一定有充分的實際理由和道德理由。如今,在跨大西洋帆船巡游時,如果不給帆船裝上GPS定位系統(tǒng),就是對乘客安全不負(fù)責(zé)的犯罪行為。就像磨尖鐮刀或驅(qū)趕牛群一樣,依靠六分儀、指南針、天文鐘和航海年鑒變成了過時能力的殘余。那些喜歡這些技能的人能夠通過互聯(lián)網(wǎng)找到彼此,再次盡情享受其中的樂趣。我們的天文導(dǎo)航員可以慎重地拿出他們的古老裝備,并使用它們進行練習(xí),以備不時之需。但是我們沒有權(quán)利回避現(xiàn)有的高科技設(shè)備,而不顧及生命安全。
我們依然會學(xué)習(xí)乘法口訣表,以及如何將其用在更大的數(shù)的計算上。我們能夠用紙和筆處理長除法問題,但很少有人能夠進行求平方根的運算。那又如何?不要將你的精力和腦細胞浪費在僅靠輸入幾個單詞,或者通過詢問谷歌、Siri就能得到答案的問題上。對擔(dān)憂者的標(biāo)準(zhǔn)回應(yīng)是,當(dāng)教育我們的孩子時,我們確實需要向他們傳授我們?nèi)匀簧瞄L使用的所有方法的原理,而為了使他們對方法有所理解,進行最基本的實操訓(xùn)練是很有價值的,但我們或許可以不必讓孩子經(jīng)歷老式的繁重練習(xí)就讓他們理解其中的原理。這看起來是合理的,但我們能將這個結(jié)論擴展到多大的范圍呢?
以醫(yī)學(xué)教育為例。沃森僅僅是在其領(lǐng)域中超越了人類專家水平的眾多計算機系統(tǒng)中的一個。你是否愿意你最喜歡的醫(yī)生按照自己的意愿,做一個老式的、基于對癥狀的直覺給出診斷的醫(yī)生,而非依賴已被證明在發(fā)現(xiàn)罕見的、低可見度診斷方面的可靠性是任何專家的一百倍的計算機系統(tǒng)?你的健康保險顧問會要求你進行計算機的檢查,而盡職的醫(yī)生會發(fā)現(xiàn)自己必須克制成為診斷上的英雄的渴望,而將診斷的權(quán)威交給他們按下按鈕的機器。這對如何培訓(xùn)醫(yī)生意味著什么?這是否會鼓勵我們放棄大量傳統(tǒng)的醫(yī)療教育,例如解剖學(xué)、生理學(xué)和生物化學(xué),以及長除法和閱讀地圖的能力?用進廢退是常被引用的法則,可以從很多例子中得到體現(xiàn)。你的孩子還能夠像你一樣輕易地看懂地圖嗎?還是他們會依賴GPS的指引?當(dāng)我們由于對智能機器的依賴加重而變得更蠢時,我們應(yīng)該有多擔(dān)心?
目前,能夠提升我們的“邊緣”智能(觀察、算法計算和記憶)的機器,與至少聲稱會取代我們的理解力(包括想象力)、規(guī)劃和決策能力的“核心”智能的機器之間有著清晰的邊線。手持計算器,GPS系統(tǒng),皮克斯的用于在幀之間插入圖像、添加陰影、調(diào)整紋理的圖像系統(tǒng),以及遺傳學(xué)中的PCR和CRISPR都屬于前者,盡管它們能夠完成之前需要專業(yè)技術(shù)才能完成的任務(wù)。我們預(yù)測兩者之間的邊界線會變窄,認(rèn)知任務(wù)會越來越常規(guī)化,但還好的是,只要我們確認(rèn)邊界線依然存在就沒問題。在我看來,真正的危險不在于機器變得過于聰明后會篡奪我們作為命運的掌舵人的身份,而在于我們會高估最新的思考工具的理解力,過早地將遠超其能力的控制權(quán)交給它們。
即使我們允許核心智能和邊緣智能的邊界線變窄,但也有一些通過使其變得對每個人來說都清晰可見的方法來強化這條邊界線。一定會有能夠越過這條界線的創(chuàng)新性發(fā)明,如果依據(jù)最近的歷史,我們可以預(yù)期每一次技術(shù)突破都會有過度宣傳相伴而來。與此相關(guān)的軼事,值得我們花些時間講述。我們知道,人們總是能快速地對任何給自己留下了深刻印象的聰明事物采取意向立場,并傾向于認(rèn)為這些事物是有目的的,因為意向立場的默認(rèn)假設(shè)是符合理性的。為了避免人們在與擬人系統(tǒng)互動時輕信它們,應(yīng)該積極地采取如下步驟:首先,我們應(yīng)該揭示并嘲笑這類系統(tǒng)中所有毫無根據(jù)的擬人化,例如可愛的、越來越像人的聲音,以及看似生動實則是事先錄制的獨白。當(dāng)你與計算機互動時,你應(yīng)該知道你正在互動的對象是臺計算機。那些故意試圖隱藏它們的缺陷和能力邊界的系統(tǒng)應(yīng)該被認(rèn)為是欺詐性的,它們的創(chuàng)造者應(yīng)因犯下“創(chuàng)造或使用扮演人類的AI”罪而接受法律的制裁。
其次,我們應(yīng)該鼓勵傳統(tǒng)道德中過度謙虛的一面,要求所有廣告商必須列出其產(chǎn)品具有的所有已知局限、缺點、未經(jīng)測試的漏洞,以及其他來源的認(rèn)知錯覺,就像我們要求藥品企業(yè)在藥品廣告中,用長長的列表給出所有已知的副作用一樣。類似于圖靈測試的關(guān)于如何更好地展示AI理解邊界的競賽會是個好辦法,這會讓人們在發(fā)現(xiàn)機器的欺詐行為時能產(chǎn)生自豪感,就像人們會自豪于發(fā)現(xiàn)了一個騙子一樣。誰能找到最快、最可靠的識別這種智能工具的局限的方法?有趣的是,我們給孩子的在面對陌生人時要有禮貌和寬容心的教誨產(chǎn)生了意外影響,那就是孩子們面對大量會說話的智能體(如Siri)時更容易被欺騙。他們必須學(xué)會當(dāng)面對這些新遇到的“助手”時,應(yīng)該懷有略帶攻擊性且不禮貌的好奇心。
最后,我們應(yīng)該希望新的認(rèn)知假體將繼續(xù)被設(shè)計為寄生性的、工具性的,而不是合作性的。它們的創(chuàng)建者設(shè)定的唯一“固有”目標(biāo)應(yīng)該是建設(shè)性且透明地響應(yīng)用戶的需求。令人擔(dān)憂的原因之一是,隨著學(xué)習(xí)機器變得更有能力弄清楚我們(它們的用戶)可能想要什么,它們可能會被設(shè)計得向我們隱藏它們的“有用”推斷。拼寫檢查器會對它所認(rèn)為的印刷錯誤進行不必要的自動“更正”,我們已經(jīng)知道這所帶來的挫敗感,并且我們中的許多人禁用這些功能,因為它們誤解我們意圖的能力對于大多數(shù)用途來說仍然太高。這只是我們必須處理的第一層一知半解。
目前已有當(dāng)前研究進展帶來的問題需要進一步分析。谷歌用以提升其搜索引擎的程序會自動根據(jù)用戶輸入的字符串確定其用戶真正想要搜索的是什么。毫無疑問,這在很多場景下是有用的,但并非總是這樣。侯世達在給其學(xué)生(該學(xué)生那時正是谷歌該項目的參與者)的一封公開信中這樣寫道:
谷歌一直以來都在試圖破壞我每天賴以生存的事物。這讓我很憂慮不安。
當(dāng)我在谷歌搜索中輸入某些內(nèi)容時,我一直希望這些詞被善意地當(dāng)成它字面上的本意。例如,作為一個認(rèn)真的作家,我總是試圖找到更精準(zhǔn)地用某種語言進行表述的方法,因此我會很頻繁地查詢兩種表述,以分辨哪一種出現(xiàn)的頻率更高,這對我來說是極其重要的一種找到如何措辭的方法。如果谷歌搜索不以字面意思處理我的輸入,而是覺得可以將我輸入的語詞進行替換,我會在得到一個高頻出現(xiàn)的語句時被嚴(yán)重誤導(dǎo),這讓我很不安。我希望機器是可靠的,而不是總是偏離我要求它做的事。機器中所謂的“智能”有時可能是有益的,但也可以是極其無用甚至有害的。根據(jù)我的體驗,這段時間被加入技術(shù)設(shè)備中的人工智能(這里人工指的是“假的”“非正版的”)讓我十分厭煩。
因此,我對你的團隊所做的事情并不滿意,且對此十分不安。
這僅僅是又一個讓技術(shù)設(shè)備變得不那么可靠的嘗試。你想要谷歌做X,并且你預(yù)期谷歌做的就是X,但實際上谷歌做了Y,因為它認(rèn)為你預(yù)期的是Y。對于我來說,這種試圖理解我的心智的嘗試即使不是危險的,也是很惱人的,因為這幾乎從來沒有正確過,甚至不在正確的范圍內(nèi)。我想要機器可以保持可靠的機械性,這樣我就可以確切地知道自己正在處理的是什么。我不希望它們試圖在智力上超越我,因為它們最終所做的不過是誤導(dǎo)我和迷惑我。這是很基礎(chǔ)的要求,卻完全被谷歌(至少是你的工作組)忽略了,我認(rèn)為這是一個巨大的錯誤。
至少,上述系統(tǒng)應(yīng)該在其試圖成為讀心者而不僅僅是機械時,明確地告知用戶,同時允許用戶能夠關(guān)掉不必要的“理解”,就像我能夠關(guān)掉試圖修改一切的拼寫檢查程序一樣。一項關(guān)于“嚴(yán)格責(zé)任”的法律可能會提供一種急需的設(shè)計鼓勵:任何使用AI系統(tǒng)做出影響人類生命和福祉的決策的人,就像其他危險和強大設(shè)備的用戶一樣,都必須接受培訓(xùn)(也許是建立聯(lián)系),并遵守更高的問責(zé)標(biāo)準(zhǔn),從而使他們相信在與AI系統(tǒng)互動時格外嚴(yán)謹(jǐn)?shù)乇S袘岩膳c探索的態(tài)度是符合自身利益的。這將間接鼓勵此類系統(tǒng)的設(shè)計方,將他們的系統(tǒng)設(shè)計得更加透明和謙遜,因為用戶會拒絕那些可能帶他們走上享樂之路并最終導(dǎo)致他們玩忽職守的系統(tǒng)。
還有另外一條避免我們放棄自己的認(rèn)知責(zé)任的方法。例如“讓我們變得更強壯”的技術(shù),一種是推土機式路線(bulldozer route),另一種則是諾德士器械式路線(Nautilus machine route)。前者讓你能夠完成驚人的任務(wù),但你個人依然身體虛弱;后者則會讓你變得更強壯,可以自己做更難的事。
目前大部分提升我們認(rèn)知能力的軟件是推土機式的:從望遠鏡、顯微鏡到基因組測序儀,以及深度學(xué)習(xí)的新產(chǎn)品。是否也有類似于健身器材的軟件,可以提升個人的理解能力?事實上,早在1985年,喬治·史密斯(George Smith)和我,以及程序員史蒂夫·巴尼(Steve Barney)和史蒂夫·科恩(Steve Cohen)就在塔夫茨大學(xué)共同創(chuàng)立了“課程軟件工作室”(Curricular Software Studio),開創(chuàng)該工作室的目的是制造“想象力輔助工具”,即能夠擴展并訓(xùn)練學(xué)生心智的軟件。這些軟件會拓寬教學(xué)中的瓶頸,讓學(xué)生能夠?qū)χT如群體遺傳學(xué)、地層學(xué)(解釋巖石層的地質(zhì)歷史)、統(tǒng)計學(xué)與計算機本身的運作這樣的復(fù)雜現(xiàn)象,想象出清晰、動態(tài)且準(zhǔn)確的模型。這些系統(tǒng)的目標(biāo)是創(chuàng)建那些一旦掌握之后就可以被放置在一邊的系統(tǒng),因為此時用戶已內(nèi)化了系統(tǒng)所要傳授的原則,并在廣泛探索的支持下,達到了更深層的理解。也許,現(xiàn)在需要更大的類似項目,來幫助人們更有創(chuàng)意、更準(zhǔn)確地思考他們面臨的諸多復(fù)雜現(xiàn)象,這樣他們就能在面對認(rèn)知輔助工具時,做一個獨立的、有智慧的和有理解力的用戶,而不是被動地、無鑒別性地接受任何科技進步帶來的成果。
我們已經(jīng)看到不少創(chuàng)新,這使我們放棄了理解力長久以來作為人類中“創(chuàng)造之王”的地位。未來還會出現(xiàn)更多這樣的創(chuàng)新。數(shù)個世紀(jì)以來,我們一直被費曼的格言“我不能創(chuàng)造的,我也不能理解”所激勵著。但近來我們的創(chuàng)造力已經(jīng)悄悄改變了這一切:我們發(fā)現(xiàn)自己可能間接地制造出我們只部分理解的事物,而這些事物又反過來可能制造出我們完全無法理解的事物。
由于其中一些事物具有神奇的力量,我們會懷疑理解力所具有的超群的價值,認(rèn)為理解力已經(jīng)過時了,當(dāng)我們有了諸多能夠?qū)⑽覀儚男量鄤谧髦姓瘸鰜淼娜斯ぶ破泛?,誰還需要理解力?
對于這樣的觀點,有一個好的回應(yīng)嗎?如果我們想要論證理解力具有內(nèi)在價值,不依賴于其提供的種種服務(wù),或者對于我們繼續(xù)過我們覺得重要的生活來說是必不可少的,我們需要的不僅僅是訴諸傳統(tǒng)。像我一樣的哲學(xué)家可以會對這樣的未來感到沮喪。正如蘇格拉底的名言:“未經(jīng)審視的人生是不值得過的?!睆奶K格拉底開始,我們將獲得對萬物更深入的理解看成:即使不是我們?nèi)松凶罡叩慕^對目標(biāo),也是不言自明的最高的職業(yè)成就。但另一個哲學(xué)家,已故的庫爾特·貝爾(Kurt Baier)補充道:“過分審視的生活同樣不值得大書特書?!贝蟛糠秩藵M足于做科技、醫(yī)學(xué)、科研發(fā)現(xiàn)及藝術(shù)創(chuàng)作的受益者,而不在意這些“魔法”是如何被創(chuàng)造出來的。擁抱“過于文明”的生活,相信我們的人工制品是我們幸福生活的“好管家”,真的如此可怕嗎?
我個人無法編造出一個有說服力的、可以說明理解力具有內(nèi)生價值的論據(jù),盡管我發(fā)現(xiàn)理解是一個人生活中最激動人心的事物之一。但我認(rèn)為,能夠給出好的、可以證明出于現(xiàn)實上的原因需要很好地保護并提升人類理解力、以免其受到種種由深度學(xué)習(xí)系統(tǒng)帶來的虛假理解力的影響的證據(jù)。人工制品可能會出現(xiàn)故障,而如果幾乎沒有人對其有足夠的理解,以便能修理它或用其他方法完成任務(wù),我們將會發(fā)現(xiàn)自己會陷入危險的窘境。很多人已經(jīng)注意到,對于部分高科技人工制品來說,能夠提供維修服務(wù)的人越來越少,甚至是不存在的。一個新的彩色打印機或者掃描儀的維修費用,比買一個新的還高。要么維修壞的,要么買一個新的。個人電腦的操作系統(tǒng)也遵循著類似的法則,當(dāng)你的軟件出了問題時,別試圖去診斷并解決問題,而應(yīng)該改變出錯的地方,重啟之后安裝你最愛軟件的最新版本。但這樣的過程能持續(xù)多久?
考慮一個典型的對技術(shù)缺乏理解的例子。有一輛平穩(wěn)行駛的汽車是生活中的一件幸事,它能使你在大部分情況中準(zhǔn)時去往你想去的地方,在此過程中,你聽著音樂、開著空調(diào),感覺很舒服,同時還有GPS導(dǎo)航為你指路。
在發(fā)達國家,我們會認(rèn)為這一切是理所當(dāng)然的,是生命中的常態(tài),是一種觸手可及的資源。我們假設(shè)環(huán)境中總會有一輛可用的“車”來規(guī)劃我們的生活。
但當(dāng)你的車拋錨后,你的生活計劃就被打亂了。除非你是一個受過技術(shù)培訓(xùn)的車迷,否則你必須承認(rèn)你依賴著拖車公司、機械師,以及由汽車經(jīng)銷商組成的網(wǎng)絡(luò)。然后未來某一刻,你可能會決定換掉那臺越來越不穩(wěn)定的車,并購入一輛新車。生活繼續(xù),波瀾不驚。
但使這些成為可能的復(fù)雜系統(tǒng),例如高速公路、煉油廠、汽車制造商、保險公司、銀行、股票市場呢?我們的文明已經(jīng)流暢地運行了數(shù)千年,但其間也伴隨著某些嚴(yán)重的破壞,文明的復(fù)雜度和能力不斷增長,它會中斷嗎?
這是有可能的,那時我們應(yīng)該找誰去尋求幫助?如果當(dāng)前的文明崩潰了,你無法購買一個新的文明,因此我們最好讓當(dāng)前的文明能夠正常運行,并能夠?qū)ζ溥M行維修。那誰會是可靠的修理者?是銀行家、記者、實業(yè)家、教授這樣的社會中的領(lǐng)導(dǎo)者嗎?簡而言之,與你預(yù)期中的領(lǐng)袖相比,這些人更像是平常的駕駛者,在他們的一畝三分地里領(lǐng)導(dǎo)著自己的那部分向前走,同時對其依賴的整個系統(tǒng)的復(fù)雜性熟視無睹。根據(jù)經(jīng)濟學(xué)家和進化思想家保羅·西布萊特的說法,對于所處系統(tǒng)的樂觀性的狹隘之見,并不是應(yīng)受譴責(zé)且需要改進的,而是讓人能夠繼續(xù)走下去的支持條件。部分理解并不是可選的。塑造人類生活眾多方面的社會大廈依賴于我們短視的自信,即我們相信其結(jié)構(gòu)是完善的,不需要給予太多關(guān)注。
西布萊特曾將人類文明比作白蟻的蟻冢,兩者都是非自然存在物,都是建構(gòu)在一層層非凡設(shè)計之上的奇觀,豎立在其“土壤”上。兩者都是創(chuàng)造并塑造了個體進化過程的副產(chǎn)品,兩者都包含的造就了其非凡的復(fù)雜性、效率及恢復(fù)能力的設(shè)計創(chuàng)新都不是個體頭腦中的創(chuàng)意,而是這些個體在數(shù)代時間里無意識地、短視地造就的。但兩者之間也有明顯的不同。人類的合作與白蟻幾乎無意識的合作截然不同,人類的合作是一個精妙且非凡的現(xiàn)象,在自然界中沒有先例,有著獨一無二的進化歷史。正如我們所看到的,這取決于我們在塞拉斯所說的“理由空間”內(nèi)與他人交往的能力。西布萊特指出,合作取決于信任,而信任是一種幾乎隱形的社交黏合劑,既能促成偉大,也能促成可怕的計劃,而這種信任并不是進化而來的存在于我們大腦中的“自然本能”。信任出現(xiàn)得太晚了,以至于進化來不及發(fā)揮作用。信任是社交狀態(tài)帶來的最重要的副產(chǎn)品,也是讓這種社交狀態(tài)成為可能的條件。我們已經(jīng)將自己拖進了現(xiàn)代文明強烈作用于感官的高地,我們天生的情感和其他本能的反應(yīng)并不總是能適應(yīng)我們的新環(huán)境。
文明是一個持續(xù)開展的過程,如果我們不再嘗試?yán)斫馑瑢槲覀冏约簬盹L(fēng)險。人類能夠觀察并意識到蟻冢所具有的遠超白蟻神經(jīng)系統(tǒng)所能理解的精妙之處與復(fù)雜性。對于我們?nèi)嗽斓氖澜?,我們也可以試圖以超凡的視角來審視它,而這是唯有人類才可以想象的偉業(yè)。如果我們沒有在此方面取得成功,也許我們是懷抱善意的,但可能會摧毀我們最珍貴的創(chuàng)造?;蚝臀幕@兩個領(lǐng)域中的進化,已經(jīng)創(chuàng)造了讓我們足以了解自身的能力。但即使智能設(shè)計在數(shù)千年的時間里一直在不斷發(fā)展,但我們依然漂浮在充滿困惑和問題的海洋中,其中很多困惑是由我們試圖理解的努力造成的,但在我們或我們的子孫能滿足我們貪婪的好奇心之前,可能會出現(xiàn)將我們毀滅的危險。
《從細菌到巴赫再回來》,[美]丹尼爾·丹尼特(Daniel C. Dennett)著,馮文婧、郭瑞東譯,湛廬文化|中國紡織出版社有限公司2024年3月。