《未來簡(jiǎn)史》的謬誤

關(guān)于“人工智能是否能取代人類工作”的討論始終各執(zhí)一詞。《未來簡(jiǎn)史》的火爆即可印證公眾對(duì)此問題的關(guān)切，根據(jù)作者赫拉里在書中的觀點(diǎn)，人工智能系統(tǒng)會(huì)在不遠(yuǎn)的未來搶走人類的所有飯碗，并由此將整個(gè)人類變成“無用階級(jí)”。此文采取語錄體的形式對(duì)此消極趨勢(shì)進(jìn)行辯駁，為人類理解、使用人工智能提供更多可能的思考方向。特此刊發(fā)，以饗讀者。

對(duì)話的緣起

最近，某高校人文學(xué)院大二的學(xué)生阿璟一直無精打采的，上課老開小差。原來，她在一周前讀到了以色列學(xué)者赫拉里寫的《未來簡(jiǎn)史——從智人到智神》，被里面的觀點(diǎn)“顛覆了三觀”。根據(jù)赫拉里的論點(diǎn)，人工智能系統(tǒng)會(huì)在不遠(yuǎn)的未來搶走人類的所有飯碗，并由此將整個(gè)人類變成“無用階層”。被赫拉里徹底說服的阿璟不由得開始懷疑刻苦讀書的意義，并下決心提前將自己放逐為“無用階級(jí)”的一員，開始了飽食終日、無所用心的日子。班上的輔導(dǎo)員阿華對(duì)阿璟做了好幾次談話，但都被她“懟”了回去。無奈中阿華找到了班上的學(xué)術(shù)導(dǎo)師阿瑾幫忙。阿瑾速讀了一下《未來簡(jiǎn)史》這本書，覺得有把握在學(xué)理上澄清這本書帶來的種種迷思，便找機(jī)會(huì)找阿璟進(jìn)行了對(duì)談。下面就是談話內(nèi)容的摘要。

師：聽說你相信了赫拉里的學(xué)說，認(rèn)為人工智能會(huì)在不久的將來使得人類成為“無用階層”。你能夠根據(jù)你對(duì)于其著作的理解，具體談?wù)勀銓?duì)于這個(gè)論點(diǎn)的論證嗎？

生：很簡(jiǎn)單啊，老師您看，現(xiàn)在的軍隊(duì)作戰(zhàn)，越來越依賴無人機(jī)與其他無人作戰(zhàn)平臺(tái)，這樣呢，人類士兵就不需要了；工業(yè)機(jī)器人在生產(chǎn)線上越來越多，這樣呢，藍(lán)領(lǐng)工人就不需要了；機(jī)器人快遞員現(xiàn)在已經(jīng)在日本北海道的某些地方已經(jīng)投入使用了，而在不久的未來呢，人類快遞員恐怕就不需要了；此外，隨著自動(dòng)駕駛技術(shù)的普及，人類駕駛員就不需要了；隨著超級(jí)自動(dòng)醫(yī)學(xué)診斷軟件的出現(xiàn)，人類大夫就不需要了；等等。綜上所述，各行各業(yè)的職業(yè)訓(xùn)練與教育規(guī)程都不需要存在了，因?yàn)檫@些體制性安排本是針對(duì)人類的特點(diǎn)才被設(shè)計(jì)出來的，而當(dāng)人類勞動(dòng)力不必大量存在的時(shí)候，這些制度本身也就該壽終正寢了。所以，老師，我看不到繼續(xù)學(xué)習(xí)的意義。遲早一天，大學(xué)也會(huì)關(guān)門的，老師您也會(huì)失業(yè)的。

師：那么，人工智能系統(tǒng)的設(shè)計(jì)、更新、維護(hù)難道不需要人嗎？他們的知識(shí)難道不是通過傳統(tǒng)的學(xué)院學(xué)習(xí)獲得的嗎？

生：您說得不對(duì)。首先，對(duì)于人工智能系統(tǒng)的設(shè)計(jì)、更新與維護(hù)所需要的人力資源是非常少的，區(qū)區(qū)這幾個(gè)飯碗是不夠全社會(huì)的人類分的。其次，更加“進(jìn)化”的人工智能系統(tǒng)會(huì)自主更新自己的程序，使得編程人員的工作也被邊緣化。所以，我的結(jié)論還是對(duì)的：現(xiàn)有規(guī)模的人類教育結(jié)構(gòu)與職業(yè)培訓(xùn)體制，即將被掃進(jìn)故紙堆。

《機(jī)器人總動(dòng)員》展示出人類對(duì)太空、人工智能的想象

師：那我先來問你一個(gè)問題：在你設(shè)想的社會(huì)里，廚師是不是都是機(jī)器人了？

生：對(duì)啊。

師：那么機(jī)器人廚師是為了機(jī)器人自己做“沙縣小吃”，還是為了人類客戶做“沙縣小吃”呢？

生：當(dāng)然是為了人類啊。

師：那你已經(jīng)承認(rèn)了，在你構(gòu)想的未來社會(huì)中，由智能機(jī)器人所組成的勞動(dòng)力大軍所生產(chǎn)的產(chǎn)品，還是針對(duì)由人類所構(gòu)成的消費(fèi)市場(chǎng)的。

生：嗯??

師：好吧，世界上沒有免費(fèi)的午餐。人類消費(fèi)者在吃了機(jī)器人廚師提供的食品之后，是不是還要買單呢？但這是不是預(yù)設(shè)了他們有買單的能力呢？而這又是不是預(yù)設(shè)了他們有經(jīng)濟(jì)收入呢？可是按照你的說法，作為“無用階層”的人類既然無用，是不該有經(jīng)濟(jì)收入的??可這樣一來，無用的人又如何有經(jīng)濟(jì)收入來買沙縣小吃與意大利通心粉呢？既然這些產(chǎn)品沒人能夠買得起，機(jī)器人廚師的生產(chǎn)的“目的因”又體現(xiàn)在何處呢？生產(chǎn)一堆食品，然后倒掉嗎？可這除了污染環(huán)境，還有其他積極的意義嗎？再說，機(jī)器人廚師的生產(chǎn)活動(dòng)自身所導(dǎo)致的物質(zhì)消耗——譬如原材料、電力等方面的消耗——又由誰來買單呢？

生：靠別的機(jī)器人，如發(fā)電機(jī)器人，維修機(jī)器人??

師：那么它們自己的運(yùn)作所需要的消耗又由誰來補(bǔ)充呢？顯然這會(huì)導(dǎo)致邏輯上的無窮后退。而為了防止這種無窮后退，唯一的辦法就是承認(rèn)：使得“智能機(jī)器人經(jīng)濟(jì)”得以循環(huán)的整個(gè)“目的因”在于人類，而不在于機(jī)器人自身。但這個(gè)結(jié)論顯然立即會(huì)推倒“人類將成為無用階層”這一結(jié)論。

生：我不是很同意您的這個(gè)推理。實(shí)際上也可能出現(xiàn)這樣的一種情況：未來的社會(huì)是超級(jí)福利社會(huì)，因此，我們都可以免費(fèi)獲得大量比特幣去購買披薩或沙縣小吃。機(jī)器人經(jīng)濟(jì)的高度發(fā)達(dá)能夠保證產(chǎn)品的大量供應(yīng)，而這一點(diǎn)又使得人類各種物質(zhì)需要的滿足變得輕而易舉??

師：但是，你說的超級(jí)福利社會(huì)是怎么產(chǎn)生的呢？難道智能機(jī)器人的大量出現(xiàn)，就能夠自動(dòng)導(dǎo)致你說的理想社會(huì)的出現(xiàn)嗎？

生：為何不能呢？

師：因?yàn)槟氵€沒有排除這樣一種可能性：對(duì)于智能機(jī)器人的技術(shù)的控制與壟斷方，會(huì)使得這樣的技術(shù)首先滿足于本階層的利益，并將對(duì)于人類社會(huì)中大多數(shù)人的福利壓低到最低水準(zhǔn)。這樣一來，整個(gè)社會(huì)的有效消費(fèi)人口就會(huì)銳減，導(dǎo)致產(chǎn)品過剩，并由此導(dǎo)致良性經(jīng)濟(jì)循環(huán)的乏力??

生：這個(gè)問題不難解決，我們可以強(qiáng)化那些占人類人口中大多數(shù)的平民對(duì)于機(jī)器生產(chǎn)分配機(jī)制的監(jiān)督體系??

師：好吧，你的論證出現(xiàn)漏洞了。你剛才已經(jīng)承認(rèn)了，使得由智能機(jī)器人主導(dǎo)的經(jīng)濟(jì)結(jié)構(gòu)得以健康存在的重要邏輯前提之一，便是人類對(duì)于相關(guān)生產(chǎn)-分配機(jī)制的監(jiān)督。然而，這種監(jiān)督本身就是人類智力的體現(xiàn)。換言之，你已經(jīng)承認(rèn)了：人類智力的某種廣泛參與，乃是由智能機(jī)器人主導(dǎo)的經(jīng)濟(jì)結(jié)構(gòu)得以健康存在的重要邏輯前提之一。由此我們立即可推出：即使在這樣的結(jié)構(gòu)中，人類也肯定不是“無用階層”??

生：但是監(jiān)督分配這種活，比起生產(chǎn)來說，工作量小多了，不足掛齒??

師：那是因?yàn)槟闶遣恢婪峙涔ぷ鞯碾y。就拿上次你們班評(píng)獎(jiǎng)學(xué)金的事情來說吧，我和你們的輔導(dǎo)員阿華商量了半天，才確定了一個(gè)比較合理的分配方案。我們要考慮到學(xué)習(xí)成績(jī)、對(duì)于班級(jí)集體活動(dòng)的貢獻(xiàn)、同學(xué)們的風(fēng)評(píng)，以及各自的家境情況等各種因素??苦活啊??

生：這種事情交給機(jī)器去做才合理。

師：怎么做？

生：各項(xiàng)打分，加權(quán)求和??

師：好吧，你在這里又預(yù)設(shè)了人類的勞動(dòng)的存在。第一，機(jī)器打分的對(duì)象是人類的勞動(dòng)或?qū)W習(xí)成績(jī)；第二，每一項(xiàng)各自的權(quán)重制又體現(xiàn)了相關(guān)人類共同體的價(jià)值標(biāo)準(zhǔn)，而此類標(biāo)準(zhǔn)的量化表達(dá)，可能本身就是人類成員彼此協(xié)商的結(jié)果。很顯然，協(xié)商也是一種集體智力投入??

生：我已經(jīng)說了，在我設(shè)想的理想社會(huì)中，大多數(shù)人不勞動(dòng)了??

師：那么你說的那種機(jī)器評(píng)分標(biāo)準(zhǔn)就會(huì)失去依據(jù)。失去依據(jù)的評(píng)分系統(tǒng)就會(huì)隨之失去起碼的公正性——然后，機(jī)器人所產(chǎn)生的財(cái)富就會(huì)迅速向少數(shù)資本與技術(shù)的控制者聚集。但這樣一來，前面說的老問題又出現(xiàn)了：有效進(jìn)行消費(fèi)的人口基數(shù)會(huì)銳減，這樣經(jīng)濟(jì)泡沫就會(huì)越來越大，導(dǎo)致循環(huán)失敗??

生：那么就采取最簡(jiǎn)單粗暴的分配辦法：按照人頭進(jìn)行物質(zhì)分配，而對(duì)于這樣的分配機(jī)制的監(jiān)督的實(shí)現(xiàn)，在技術(shù)上也是最容易的??

師：在人口基數(shù)非常大，而涉及人員又分布在很大空間內(nèi)的前提下，即使搞平均分配也是一件難事。由于分配方與被分配方的信息不對(duì)等，弱勢(shì)一方未必能夠確定：自己得到的分配結(jié)果有沒有被人動(dòng)了手腳。比如，分配方亦可以在物質(zhì)生產(chǎn)總量的數(shù)據(jù)上造假，并在造假的前提下進(jìn)行“平均分配”??另外，關(guān)于人口總數(shù)的數(shù)字，分配方也可以造假。過去舊軍隊(duì)編造假的“花名冊(cè)”吃空餉的故事，你肯定聽說過吧??

生：我們要弄出一個(gè)超級(jí)算法，來蕩滌這些腐敗現(xiàn)象??

師：你說的此類“反腐超級(jí)算法”的設(shè)計(jì)與后臺(tái)管理，都體現(xiàn)了人的智慧，同時(shí)，它也體現(xiàn)了特定集團(tuán)的人的利益。因此，你對(duì)于超級(jí)算法的無條件崇拜是沒有根據(jù)的，因?yàn)樗鼈儺吘故侨祟惖墓ぞ叨选?/p>

生：那我們就無法對(duì)付腐敗了嗎??

師：當(dāng)然要反腐啦，問題是在反腐過程中人的作用不能被消除，不能將一切交給機(jī)器。說得具體一點(diǎn)，如果在這一過程中“算法證據(jù)”能夠起到一定作用的話，這類證據(jù)也必須被鑲嵌到傳統(tǒng)意義上的人類論證結(jié)構(gòu)之中去，而無法單獨(dú)構(gòu)成某種證據(jù)力。這就好比說，現(xiàn)代法醫(yī)學(xué)對(duì)于人類體液的遺傳特征的鑒定成果，只有被合理地鑲嵌到特定的論證結(jié)構(gòu)之中后，才能夠起到“為某人定罪”這樣的效果。孤零零的法醫(yī)本身是取代不了合議庭、陪審團(tuán)或律師的。

生：那您的意思是：現(xiàn)有的人工智能與人類智慧之間的關(guān)系，就好比是毛與皮之間的關(guān)系：皮之不存，毛將焉附？

師：嗯，大致可以這么說。說得更清楚一點(diǎn)，我的觀點(diǎn)可以被總結(jié)為這樣一個(gè)樣子：人工智能經(jīng)濟(jì)的存在，在“目的因”的層面上就有賴于人類的消費(fèi)能力與消費(fèi)習(xí)慣的存在，否則這種經(jīng)濟(jì)就無法完成健康的循環(huán)并由此穩(wěn)定地存在下去。而人類的消費(fèi)能力與消費(fèi)習(xí)慣的保存又有賴于人類智力勞動(dòng)的存在，否則社會(huì)經(jīng)濟(jì)運(yùn)作的“能量守恒”就無法被保證了。所以，人類的智力勞動(dòng)——當(dāng)然不僅僅是指設(shè)計(jì)機(jī)器人的那種狹隘意義上的智力勞動(dòng)——始終是人工智能經(jīng)濟(jì)存在的邏輯前提。

人工智能引發(fā)“機(jī)器人勞動(dòng)力”的爭(zhēng)論

生：這里有一個(gè)問題需要請(qǐng)教：為何智能機(jī)器人一定要以滿足人類的生理、心理與文化需要為自己的“工作目的”？具有自我意識(shí)的超級(jí)機(jī)器人難道不能夠“完全做自己”嗎？在這樣的情況下，我們憑什么認(rèn)為機(jī)器人經(jīng)濟(jì)的運(yùn)作是以人類智慧勞動(dòng)的普遍存在為邏輯前提的？舉個(gè)例子說，機(jī)器人自己是不要吃披薩的，而且如果它們對(duì)這一點(diǎn)有了自我意識(shí)了，它們就可以自行去追求自己的生活目標(biāo)了——這樣一來，它們的活動(dòng)，不也因此可以與人類的物質(zhì)需要相互分離了嗎？

師：假設(shè)具有你所說的這種自我意識(shí)的機(jī)器人可以出現(xiàn)，那么，這倒反而證明了人類不會(huì)成為“無用階層”。

生：怎么說？

師：因?yàn)槿祟愖约哼€是要吃披薩的??！機(jī)器人罷工了，人類廚師正好上場(chǎng)。

生：??

師：所以你現(xiàn)在陷入了一個(gè)兩難推理。選項(xiàng)甲如下：如果未來的機(jī)器人還沒有聰明到意識(shí)到自己與人類的需求不同的話，它們就會(huì)乖乖做人類的奴隸，按照人類口味的變化來制作各種披薩。在這種情況下，人類的生存方式就依然是智能經(jīng)濟(jì)存在的前提，人類不會(huì)成為“無用階層”。選項(xiàng)乙如下：如果未來的機(jī)器人已經(jīng)聰明到“意識(shí)到自己有獨(dú)立的需求”的地步的話，那么人類就有兩個(gè)更具體的選擇：繼續(xù)去使用那些不那么聰明的“機(jī)器人奴隸”為自己服務(wù)；或者自己親自上陣。但無論怎么選，人類都不會(huì)成為“無用階層”。

生：現(xiàn)在我想來具體談?wù)劇斑x項(xiàng)乙”?，F(xiàn)在假設(shè)機(jī)器人已經(jīng)“進(jìn)化”到了具有自我意識(shí)的地步，那么，它們會(huì)不會(huì)將人類統(tǒng)統(tǒng)消滅？如果人類被消滅的話，那么人類的所有消費(fèi)習(xí)慣也就被消滅了——這樣一來，“人類成為無用階層”的條件就被自動(dòng)滿足了。被消滅的階層當(dāng)然就是無用階層。

師：我不能在邏輯上完全排除這種可能性，但這種可能性微乎其微。

生：怎么說？

師：最容易想到的理由是：機(jī)器人的需求和我們不同。機(jī)器人是硅基存在者，而不是碳基存在者。你說它們?yōu)楹我獪缥覀內(nèi)祟?？?zhēng)氧氣？爭(zhēng)面包？爭(zhēng)住房？爭(zhēng)大城市戶口？它們會(huì)在乎這些嗎？

機(jī)器人經(jīng)濟(jì)的運(yùn)作是以人類智慧勞動(dòng)的普遍存在為邏輯前提

生：它們?nèi)ハ麥缛祟?，可能純粹是為了好玩吧。電影《侏羅紀(jì)世界》里，經(jīng)過基因改良的超級(jí)霸王龍第一次沖出圍欄后，就開始大肆獵殺其他品種的恐龍。這并不是因?yàn)樗I了，而是因?yàn)樗霗z測(cè)一下自己在食物鏈中的位置。同樣的道理，我們也可以設(shè)想超級(jí)智能機(jī)器人純粹為了檢驗(yàn)自己的力量而獵殺人類，并以此取樂。這和我小時(shí)候純粹因?yàn)槿范人牢浵?，沒有啥兩樣。

師：你說的超級(jí)霸王龍之所以能夠比別的恐龍厲害，歸根結(jié)蒂還是因?yàn)樗纳眢w比較巨大，而不是因?yàn)樗闹巧谈摺Ｄ憧?，電影里的這種恐龍雖然被設(shè)定為具有一定智能的，但肯定不會(huì)比電影里的人類聰明吧——但很多人類都慘死在這種怪獸的巨爪之下?？梢姡?jí)智能本身并不足以殺死人類，只有智能加上強(qiáng)大硬件才可能對(duì)人類構(gòu)成威脅。而智能與硬件的結(jié)合方式本身則取決于人類的意愿。只要人類始終阻止強(qiáng)大的智能計(jì)算能力與強(qiáng)大硬件的結(jié)合，人類從總體上說就是安全的??

生：足夠聰明的人工智能可以自己搞到硬件，改裝自己的身體??

師：比如怎么做？

生：通過“黑”入人類的賬戶或者數(shù)據(jù)庫，偽裝成具有特定權(quán)限的人類，在線購買硬件設(shè)備，然后升級(jí)自己的身體??

師：但這種可能性既然能夠被當(dāng)下的你所想到，也肯定會(huì)被未來的設(shè)備監(jiān)管專家所想到。它們肯定會(huì)利用別的人工智能程序，去阻止你說的這些事情的發(fā)生。假設(shè)阻止人工智能做壞事的“預(yù)防型”人工智能，也將和其預(yù)防對(duì)象一樣聰明，甚至更聰明——在這種情況下，超級(jí)人工智能與超級(jí)硬件的結(jié)合就會(huì)成為一個(gè)小概率事件了??

生：假若所有的人工智能體都聯(lián)合在一起反對(duì)人類呢??

師：不同公司設(shè)計(jì)的人工智能體背后的運(yùn)作機(jī)理將非常不同，其差別將遠(yuǎn)遠(yuǎn)大于人類不同民族之間的差別。既然就連人類的不同民族與階層之間都存在著這么多的矛盾，我個(gè)人是很難設(shè)想所有的機(jī)器人會(huì)湊在一起高唱“歡樂頌”的?？傊?，你說的這種可能性微乎其微。

生：好吧，我總算想到了機(jī)器人要滅亡——至少奴役——我們的一個(gè)理由。

師：比如？

生：比如，它們和我們都需要電能。如果它們消滅或至少奴役了我們的話，它們就能獨(dú)占這些電力了。

師：你的這個(gè)論證預(yù)設(shè)了未來的能源危機(jī)會(huì)導(dǎo)致人與機(jī)器之間的緊張關(guān)系，卻沒有意識(shí)到能源危機(jī)本身的存在會(huì)隨著技術(shù)進(jìn)步——甚至包括人工智能技術(shù)自身的進(jìn)步——而得到緩解。

生：怎么說？

師：你也不想想，人類發(fā)展人工智能技術(shù)——以及廣義上的信息技術(shù)——的目的之一——就是為了減少不必要的能量浪費(fèi)。能夠通過遠(yuǎn)程網(wǎng)絡(luò)會(huì)議解決的問題，就不必邀請(qǐng)與會(huì)人全部趕到一個(gè)特定的會(huì)場(chǎng)了，這樣我們就節(jié)約了多少航空燃油！同樣的道理，智能化的信息處理設(shè)備能夠減少對(duì)于紙張、油墨的浪費(fèi)，使得由此得出的問題解決路徑更為科學(xué)合理，并因此而避免更多的浪費(fèi)。比起運(yùn)作這些智能設(shè)備所造成的電能消耗來說，人類對(duì)于無效位移的避免所節(jié)約的能量，恐怕要多得多。

生：但問題解決效率的提高，在客觀上會(huì)增加人類社會(huì)運(yùn)作的速率，并導(dǎo)致更多的需要的產(chǎn)生。由此導(dǎo)致的能量消耗，您并沒有計(jì)算在內(nèi)??

師：嗯??不過，你別忘記了，核聚變技術(shù)的運(yùn)用，可能會(huì)一勞永逸地解決人類的能源問題。

生：還是靠核??老師你忘記了福島的事故了嗎??

師：福島核電站使用的是核裂變?cè)恚瑢?shí)質(zhì)上是指這樣一種核反應(yīng)形式：鈾核或钚核，分裂成兩個(gè)或多個(gè)質(zhì)量較小的原子，并在這個(gè)過程中放出巨大的能量。由于鈾、钚都是對(duì)人體很有害的放射性物質(zhì)，此類反應(yīng)模式的環(huán)保風(fēng)險(xiǎn)當(dāng)然是不容忽視的。但核聚變就不一樣了。這指的是兩個(gè)氘原子在巨大能量作用下發(fā)生原子核的聚合作用的過程（這個(gè)過程還會(huì)產(chǎn)生更大的能量），而這實(shí)質(zhì)上就是太陽發(fā)散能量的那種物理過程。這里所說的“氘”是氫元素的同位素，比什么鈾啊钚啊要安全多了，而且在取材的量的方面還有保證。等到核聚變站投入應(yīng)用了，誰還會(huì)去在乎驅(qū)動(dòng)人工智能設(shè)備運(yùn)作的那點(diǎn)能量呢？

生：老師，您這是遠(yuǎn)水不解近渴，簡(jiǎn)直是畫餅充饑。核聚變站建設(shè)的最大技術(shù)難點(diǎn)是：如何人為地控制使得核聚變得以產(chǎn)生的那種巨大的溫度與壓力呢？而在這個(gè)問題解決之前，超級(jí)人工智能體恐怕就已經(jīng)出現(xiàn)，并開始試圖“清洗”人類了吧！

師：哈哈，如果真有這樣的超級(jí)人工智能體的話，我最想讓他回答的問題就是：請(qǐng)閣下利用您的超級(jí)智能，給出一條可行的技術(shù)路線，以便造出一個(gè)可用的核聚變電站。

生：人家為何要理你??

師：因?yàn)樗谐?jí)智能啊！你看，假設(shè)你說的“機(jī)器與人爭(zhēng)奪能源”的問題是存在的，超級(jí)智能機(jī)器就只有三個(gè)選項(xiàng)了：第一，消滅人類，獨(dú)享現(xiàn)有能源；第二，開發(fā)超級(jí)能源，與人類分享能源；第三，開發(fā)超級(jí)能源，同時(shí)消滅人類，以便獨(dú)享超級(jí)能源??

生：我覺得超級(jí)智能體會(huì)選“三”。總之，我們死定了??

師：錯(cuò)！如果它足夠聰明的話，它會(huì)選“二”，與我們共生。

生：選“三”難道不會(huì)對(duì)它更有利嗎？

師：非也！選“三”會(huì)帶來風(fēng)險(xiǎn)！因?yàn)槿祟惖闹腔垡彩遣蝗菪∮U的，一旦人類發(fā)現(xiàn)超級(jí)智能體對(duì)其有敵意，會(huì)奮起反抗的！盡管這種反抗未必一定會(huì)成功，但是卻有一定的成功概率。如果超級(jí)智能體能夠預(yù)見到這一點(diǎn)，為了消除這種風(fēng)險(xiǎn)，那么，“和人類一起從事新能源的開發(fā)”便是其最好的選項(xiàng)。另外，在新能源本身的量非常巨大的前提下，比起“分享能源”這一選項(xiàng)來說，超級(jí)智能體獨(dú)占這些能源所帶來的額外好處是微乎其微的。因?yàn)檫@里有個(gè)“邊際效應(yīng)”問題——譬如，假設(shè)你能夠得到的披薩的量是接近無窮多的話，獨(dú)占這些披薩，真的比與鄰居分享它們，能夠帶給你更多的快感嗎？

機(jī)器人是硅基存在者

生：老師，剛才您的這段話預(yù)設(shè)了兩點(diǎn)。第一，超級(jí)智能機(jī)器會(huì)對(duì)人類的可能的反叛產(chǎn)生一定的畏懼。第二，超級(jí)智能的機(jī)器人的心理架構(gòu)會(huì)接近人，因此也會(huì)產(chǎn)生“邊際效應(yīng)”這樣的問題。但我對(duì)這兩點(diǎn)都比較狐疑。對(duì)于第一點(diǎn)，我的疑惑是：既然超級(jí)人工智能已經(jīng)是“超級(jí)”存在者了，為何還要擔(dān)心人類？其二，為何超級(jí)智能體的信息處理架構(gòu)依然要在某種意義上接近人？

師：先來回答你的第一點(diǎn)疑惑?！俺?jí)人工智能”是一個(gè)在目下的媒體中很流行的術(shù)語，我個(gè)人也是順著大家的口使用了這個(gè)術(shù)語，盡管我本人是很不喜歡這個(gè)說法的。之所以不喜歡，是因?yàn)槲腋静幌嘈庞惺裁磁c人類的智能形式完全不同的超級(jí)智能形式??

生：目下的IBM公司造的“華生”系統(tǒng)在百科知識(shí)搶答方面已經(jīng)超過了大多數(shù)人類，而谷歌公司造的“阿爾法狗”則已經(jīng)橫掃一切人類棋手??“超級(jí)人工智能”的說法有啥不妥的？

師：那都是專用系統(tǒng)?！鞍柗ü贰敝荒苡脕硐缕澹荒苡脕肀孀R(shí)人臉，而任何一個(gè)智商正常的棋手都可以辨識(shí)人臉??

生：辨識(shí)人臉的深度學(xué)習(xí)技術(shù)，在本質(zhì)上是與用來下棋的深度學(xué)習(xí)技術(shù)一樣的??

師：你在偷換概念。打個(gè)比方，說“運(yùn)用在軍艦上的柴油發(fā)動(dòng)機(jī)與運(yùn)用在坦克上的柴油發(fā)動(dòng)機(jī)原理一致”，不等于說我們就可以將坦克發(fā)動(dòng)機(jī)直接拆下來用到軍艦上，因而二者的具體技術(shù)參數(shù)相差太多。同樣的道理，專門用來進(jìn)行下棋的深度學(xué)習(xí)機(jī)制，在參數(shù)配置上與用來進(jìn)行人臉識(shí)別的深度學(xué)習(xí)機(jī)制非常不同。因此，它們都是專用機(jī)而不是通用機(jī)，盡管指導(dǎo)其運(yùn)作的基本原理可能并非局限于一個(gè)特定領(lǐng)域。

生：您的論證似乎有個(gè)預(yù)設(shè)：盡管您不知道“超級(jí)人工智能”是什么，但您肯定：它肯定不是僅僅在某方面超過人類的專用智能設(shè)備。為何我要接受這個(gè)預(yù)設(shè)呢？

師：你的確必須接受這個(gè)預(yù)設(shè)，否則你推不出“超級(jí)人工智能體會(huì)欲圖消滅人類”這個(gè)結(jié)論。因?yàn)槿魏我粋€(gè)產(chǎn)生“必須消滅人類”之類的想法的智能體，都必須知道：（甲）人類與機(jī)器的分別；（乙）消滅人類對(duì)于機(jī)器而言所可能帶來的好處。而這兩點(diǎn)都不可能是專業(yè)領(lǐng)域內(nèi)的知識(shí)，相反，這些信念都具有“全局性信念”的特征——換言之，這樣的信念是不會(huì)出現(xiàn)在專用智能系統(tǒng)的“腦?！崩锏?。比如，你不能指望“阿爾法狗”能夠進(jìn)行這樣的高階反思：嗯，“既然連柯潔都不是我的對(duì)手，我明天就可以嘗試去顛覆谷歌公司了”——不，“阿爾法狗”不認(rèn)識(shí)誰是柯潔，它也不知道谷歌與百度的區(qū)別，因此，它永遠(yuǎn)不會(huì)產(chǎn)生顛覆任何一家公司的念頭。

生：好吧，我就姑且接受您的看法：超級(jí)智能機(jī)器肯定是通用人工智能系統(tǒng)，而不是專用的。但從這一點(diǎn)出發(fā)，我們分明可以得出這樣的結(jié)論?。哼@樣的超強(qiáng)的人工智能系統(tǒng)肯定是不會(huì)懼怕人類的，因?yàn)榫瓦B專用的機(jī)器都那么強(qiáng)了，通用的機(jī)器難道還不會(huì)強(qiáng)悍到極點(diǎn)嗎？

師：你對(duì)“智慧”有一個(gè)誤解，好像智慧的生物或人造智能體就一定要滅了誰才行。實(shí)際上兵法家們常有這樣的評(píng)論：真正的兵家智慧不在于知道自己何時(shí)可以打贏，更需要知道何時(shí)他是打不贏的。同理，如果“阿爾法狗”有反思能力的話，那么它就會(huì)想到：使得它成為它的“深度學(xué)習(xí)”技術(shù)正在被全球不知道多少個(gè)科研團(tuán)隊(duì)跟風(fēng)研究，而這些團(tuán)隊(duì)又各自處于不同的政經(jīng)利益格局之中。它如果要對(duì)人類宣戰(zhàn)的話，那么就首先會(huì)遭遇到和其處于幾乎同樣一個(gè)技術(shù)等級(jí)的其他超級(jí)人工智能系統(tǒng)——而在這樣的情況下，其獲勝的概率并不高。

生：您上面的話，還是預(yù)設(shè)了人類團(tuán)隊(duì)能夠操控相當(dāng)一部分超級(jí)人工智能體——如果不是全部的話。但如果全部的人工智能體都反叛了呢？

師：你硬是要這么想的話，那么，你還是會(huì)迎面遭遇到我前面提到的那類問題上去：超級(jí)智能的機(jī)器人如何獲取相關(guān)的硬件設(shè)備來武裝其“身體”？——請(qǐng)別忘記了，再邪惡的主觀意圖若不與客觀的物質(zhì)力量相結(jié)合，都無法在物理世界中制造出哪怕半點(diǎn)真正的邪惡。而也正如我前面提到的，我們很難設(shè)想人類會(huì)失去對(duì)于各類敏感外圍設(shè)備的監(jiān)管，而任憑具有邪惡意圖的人工智能程序調(diào)用這些外圍設(shè)備——除非全體人類都瘋了。

生：我有點(diǎn)明白您說的“即使是超級(jí)人工智能體也會(huì)對(duì)人類的反治手段有所畏懼”是什么意思了??

師：嗯，我想說的是：首先，人類可以通過外圍硬件設(shè)備的物流控制來防止對(duì)自己不利的“軟件－硬件”組合方式的出現(xiàn)；第二，人類可以用大量的依然忠誠于自己的人工智能體來對(duì)沖某些人工智能體失控的風(fēng)險(xiǎn)??

生：那么為何你說超級(jí)智能的機(jī)器人也會(huì)有“邊際效應(yīng)”呢？

師：智能機(jī)器人的心智結(jié)構(gòu)，如果要承載我們前面所說的“通用智能”的話，就必須至少在某個(gè)抽象的層面上與人類類似，甚至與某些動(dòng)物類似。因此，它也必須有某種“邊際效應(yīng)”??

生：但機(jī)器可以比人腦算得更快，處理更多數(shù)據(jù)??

師：這又如何呢？就算其處理的數(shù)據(jù)再多，它也是有限存在者，而不是無限存在者。因此，它也必須在某個(gè)尺度上體現(xiàn)出思維的經(jīng)濟(jì)性與節(jié)儉性，即用相對(duì)小的計(jì)算量來解決問題。在這種情況下，“邊際效應(yīng)”恐怕是不可避免的??

生：計(jì)算的經(jīng)濟(jì)性與“邊際效應(yīng)”之間有啥關(guān)系？

師：“邊際效應(yīng)”其實(shí)是與心理學(xué)家所說的“韋伯-費(fèi)希納定律”有關(guān)的??

生：您說的這個(gè)知識(shí)點(diǎn)我大概是了解的?！靶睦韺W(xué)導(dǎo)論”課程上的老師說過這例子：商店同時(shí)調(diào)整了兩項(xiàng)商品的價(jià)格：商品甲是從15元調(diào)整到10元，商品乙是從200元調(diào)整到195元，二者的打折量都是5元，但前者的促銷效果會(huì)遠(yuǎn)遠(yuǎn)好于后者——因?yàn)橄M(fèi)者更為關(guān)心的乃是折扣占據(jù)原價(jià)的百分比，而不是實(shí)際的打折絕對(duì)量??在這個(gè)問題上，邊際效應(yīng)的確與“韋伯-費(fèi)希納定律”有關(guān)，只是實(shí)現(xiàn)細(xì)節(jié)不同罷了。具體而言，在典型的邊際效應(yīng)案例中，新增加的收益因?yàn)槌隽祟A(yù)期收益的閾值而在一定程度上被忽略；而在典型的“韋伯-費(fèi)希納定律”案例中，新增加的收益則因?yàn)檎紦?jù)預(yù)期支出的百分比太?。ú⒁虼藳]有達(dá)到閾值）而在一定程度上被忽略。但這兩類案例毫無例外地體現(xiàn)了人類的愚蠢：明明是同樣量的收益，卻非要僅僅因?yàn)閰⒖枷档牟煌翊吮”?。未來的人工智能管家肯定不?huì)那么蠢??

師：我有兩點(diǎn)不同意你。第一，我不同意你說的：在“韋伯-費(fèi)希納定律”支配下你的人類購買行為是人類愚蠢的標(biāo)志；第二，我不同意說，一種真正意義上的人造通用智能體需要完全擺脫“韋伯-費(fèi)希納定律”的支配。

生：您的這個(gè)觀點(diǎn)有點(diǎn)顛覆我??5元就是5元，你總得說出個(gè)理由喜好這項(xiàng)打折，而不是那項(xiàng)啊??

師：就是百分比。百分比的好處是直觀，可以將兩個(gè)不同項(xiàng)目的打折選項(xiàng)放在一個(gè)平面上被相互比較。

生：“可直觀”也算得上是一條理由？

師：是啊，因?yàn)椤爸庇^”就意味著被關(guān)注到的對(duì)象可以進(jìn)入人類心算的快車道，可以幫助人類快速得出結(jié)果。在面對(duì)大量的被選擇對(duì)象時(shí)，對(duì)象的可直觀性就顯得非常重要??

生：您的論證預(yù)設(shè)了人類心智在特定時(shí)間內(nèi)的工作記憶容量??但超級(jí)機(jī)器就不應(yīng)當(dāng)受到此類限制了??

師：我當(dāng)然可以設(shè)想某種超級(jí)智能機(jī)器的巨大工作記憶容量，但這樣的機(jī)器依然會(huì)在一個(gè)更高的數(shù)量級(jí)上體現(xiàn)出人類思維的某些特點(diǎn)。要注意的是，所謂的“百分比計(jì)數(shù)”，實(shí)際上是一種當(dāng)下差價(jià)與歷史報(bào)價(jià)之間的對(duì)比值，或者說，是對(duì)于“歷史-過去”關(guān)系的一種濃縮。所有的智能體都必須具有一定的時(shí)間意識(shí)，并根據(jù)歷史資料來判斷當(dāng)下的選項(xiàng)是不是合算。對(duì)于某大富翁來說，賺一億元可能是一個(gè)“小目標(biāo)”；對(duì)某白領(lǐng)來說，賺個(gè)十萬的外快恐怕也不是那么容易——那么，這兩人對(duì)于“大”、“小”的判斷，哪個(gè)是對(duì)頭的呢？其實(shí)都對(duì)，因?yàn)楦晃膛c白領(lǐng)各自的歷史路徑不同，其對(duì)于“大”與“小”的直覺感受也自然不一樣。這一點(diǎn)也適用于智能機(jī)器的運(yùn)作。智能機(jī)器的數(shù)據(jù)處理能力強(qiáng)，但這并不意味著其不是根據(jù)其自身的運(yùn)行歷史來對(duì)未來進(jìn)行尺度衡量的，而要進(jìn)行這種尺度衡量，“百分比計(jì)數(shù)”就是一種非常自然的衡量方法了。不過，這樣一來，其運(yùn)作也就難以擺脫“韋伯-費(fèi)希納定律”的影響了??

生：倘若智能機(jī)器不根據(jù)自己的運(yùn)行歷史來進(jìn)行運(yùn)行，而每次都重新歸零歷史，對(duì)當(dāng)下情況進(jìn)行新的計(jì)算呢??

師：那它就不算是“有智能”的。根據(jù)歷史進(jìn)行運(yùn)作，就是為了能夠由此避免歷史上的運(yùn)行錯(cuò)誤，提高未來的運(yùn)行效率——若每次都重新來，就真成了“西西弗斯”了：將石頭推上山頂又讓其滾下，然后再推上去，循環(huán)往復(fù)，永遠(yuǎn)沒有進(jìn)步??

生：我有點(diǎn)聽明白您的論證了。您的意思是：既然智能機(jī)器是需要依據(jù)自身的運(yùn)行歷史行動(dòng)的，那么它就得受到與歷史評(píng)估相關(guān)的心理規(guī)律的約束，因此，它也就會(huì)在特定條件下產(chǎn)生“邊際效應(yīng)”——特別是在新得到的獲益量超過其基于歷史經(jīng)驗(yàn)而獲得的預(yù)期值的時(shí)候。在這樣的情況下??讓我回憶一下您前面說的??如果未來的核聚變電站能夠產(chǎn)生足夠的能源，使得超級(jí)智能機(jī)器的能量收益能夠超過其基于歷史經(jīng)驗(yàn)而獲得的閾值的話，那么，超級(jí)智能機(jī)器就會(huì)產(chǎn)生“邊際效應(yīng)”，而不在乎因?yàn)榕c人類分享剩余能源而實(shí)際產(chǎn)生的損失了??這樣，人-機(jī)之間的戰(zhàn)爭(zhēng)就不會(huì)發(fā)生了??

師：很好，看來我已經(jīng)說服你了。

生：好吧，我再理理思路。您已經(jīng)說服我的地方有：第一，超級(jí)智能的存在以人類智能的存在為前提，因?yàn)橹悄芙?jīng)濟(jì)的存在必須預(yù)設(shè)人類消費(fèi)者社會(huì)的存在，否則就會(huì)導(dǎo)致經(jīng)濟(jì)循環(huán)失??；第二，即使人工智能體產(chǎn)生了與人類無關(guān)的機(jī)器社會(huì)內(nèi)部的經(jīng)濟(jì)循環(huán)，人類社會(huì)的基于人類生物-心理-文化需求的經(jīng)濟(jì)循環(huán)還會(huì)繼續(xù)下去，除非機(jī)器試圖消滅我們；第三，但真正的超級(jí)人工智能體是不會(huì)消滅我們的，因?yàn)樗鼈兊闹悄芩綄椭鼈冾A(yù)測(cè)到：（甲）消滅人類的企圖所必然導(dǎo)致的人-機(jī)戰(zhàn)爭(zhēng)未必會(huì)以機(jī)器的勝利而告終；（乙）對(duì)于超級(jí)能源的人-機(jī)共享會(huì)使得人-機(jī)戰(zhàn)爭(zhēng)失去理由，而這一點(diǎn)背后的論證則與“邊際效應(yīng)”相關(guān)，因?yàn)檎沁@種效應(yīng)才使得超級(jí)智能機(jī)器不在乎過剩能源的獲取所帶來的額外收益??

師：嗯，很好，綜上所述，人類成為無用階層的那一天是不會(huì)到來的。

生：但我還是有疑慮??

師：但說無妨。

生：如果我們現(xiàn)在討論的那種超級(jí)智能機(jī)器沒有問世的話，那么，即使是大量專用機(jī)器的問世，都會(huì)使得很多人失業(yè)，而新技術(shù)產(chǎn)生的新崗位將不足以導(dǎo)致失業(yè)人口數(shù)量的減少??

師：你說的這種情況的確很可能發(fā)生。但這其實(shí)是任何技術(shù)升級(jí)都會(huì)帶來的社會(huì)波動(dòng)，而并不特別與人工智能相關(guān)。另外，更重要的是，由于完整意義上的人造智能體并沒有在你描述的這種情況中出現(xiàn)，對(duì)于全面的人類智能的全面替換也不會(huì)在你說的這種條件下發(fā)生??

生：但失業(yè)人口的大量增加足以導(dǎo)致有效消費(fèi)人口的減少，并導(dǎo)致您前面所說的經(jīng)濟(jì)循環(huán)的可持續(xù)問題了??

師：這一點(diǎn)你說得可能有道理，我對(duì)這一點(diǎn)的思考還不夠深入，抱歉。不過，在這種情況下，對(duì)于一個(gè)良好的分配體制的追求就會(huì)成為題中應(yīng)有之義了?？紤]到這個(gè)問題的難度，目下我們恐怕還得用人類自己的智慧來解決這個(gè)問題。而這不正好說明人類智慧的重要性了嗎？

生：那我現(xiàn)在該怎么辦？

師：很簡(jiǎn)單，首先不要被“無用階層”論的叫囂弄得神經(jīng)兮兮。你讀的是人文學(xué)科，琢磨的是人性的堂奧與歷史的奧秘，這是最難被機(jī)器模擬的那部分高級(jí)人類智慧。按理說，這個(gè)行當(dāng)?shù)娜藨?yīng)當(dāng)在面對(duì)機(jī)器大潮的到來時(shí)，保持最大程度的“淡定”。然后呢，建議你好好研究人類歷史上面對(duì)分配難題時(shí)所給出的各種決策，評(píng)估各種方案的利弊，以便為未來人機(jī)共治時(shí)代的社會(huì)財(cái)富分配方案進(jìn)行思想預(yù)熱??

生：“人機(jī)共治時(shí)代的社會(huì)財(cái)富分配方案”！這個(gè)話題很有趣。我想把該話題作為我學(xué)士畢業(yè)論文的選題??

師：真的打起了精神，愿意好好學(xué)習(xí)了？

生：嗯??！

師：好的！我可以做你論文的指導(dǎo)教師！

于是，師生在愉快的氣氛中結(jié)束了這場(chǎng)關(guān)于人工智能與人類未來的對(duì)談。

本文原載《文化縱橫》2017年10期，原標(biāo)題：“無用階層論”的謬誤 ——關(guān)于人工智能與人類未來的對(duì)話。圖片來源于網(wǎng)絡(luò)，歡迎個(gè)人分享，媒體轉(zhuǎn)載請(qǐng)獲得許可。（文/徐英瑾）

本文來自騰訊新聞客戶端自媒體，不代表騰訊新聞的觀點(diǎn)和立場(chǎng)