《我這樣的機(jī)器》，[英]伊恩·麥克尤恩著，周小進(jìn)譯，上海譯文出版社，2020年7月即出
不知麥克尤恩有沒(méi)有考慮過(guò)“恐怖谷”?！拔疫@樣的機(jī)器”，他的書(shū)名像是在玩味那條規(guī)則。1970年，在一本名叫“能量”的古怪雜志上，東京工業(yè)大學(xué)教授森政弘發(fā)表了一篇文章，其標(biāo)題“不気味の谷”中的“不気味”，是說(shuō)那種莫名讓人不舒服，讓人毛骨悚然的感覺(jué)，也有人把它翻譯成“詭異谷”。
人如果想要造人，也會(huì)像上帝造人那樣拿自己當(dāng)模型。從工業(yè)機(jī)器人、玩具機(jī)器人，一直到伴侶機(jī)器人，面貌體態(tài)會(huì)越來(lái)越像真人?？傆幸惶?，就像這部小說(shuō)中的亞當(dāng)，機(jī)器人會(huì)造得看上去完全就是一個(gè)真正的人類(lèi)：身體健壯、相貌英俊、深色皮膚、濃密頭發(fā)、鷹鉤鼻子。膚色、心跳無(wú)不像真人，甚至呼吸都帶著一絲濕潤(rùn)。只不過(guò)在它淺藍(lán)色瞳孔上，仔細(xì)看會(huì)發(fā)現(xiàn)有很多條紋。
按照恐怖谷理論，看到這樣的機(jī)器人，人會(huì)產(chǎn)生奇異的恐懼感。森政弘用機(jī)器人仿真度做橫軸，以人對(duì)機(jī)器人的“親和感”（しんわかん）為縱軸，畫(huà)了一條函數(shù)曲線。機(jī)器人越像真人，人們就越喜歡它們，跟它們?cè)接H近?？梢坏┤藗兂晒υO(shè)計(jì)出仿真度很高的機(jī)器人，那條單調(diào)遞增的曲線就會(huì)突然跌入低谷，他把這個(gè)稱(chēng)為“恐怖谷”。也就是說(shuō)，如果機(jī)器人跟真人只有極細(xì)微差別，它們反而會(huì)讓人害怕。“恐怖谷”理論漸漸受到重視，首先是娛樂(lè)工業(yè)，有些科幻電影因?yàn)樵O(shè)計(jì)了更逼真的機(jī)器人形象，反而票房慘敗。游戲角色形象設(shè)計(jì)似乎也印證了這個(gè)猜想。2012年，有人將其翻譯成英語(yǔ)，在美國(guó)電氣電子工程師協(xié)會(huì)（IEEE）《機(jī)器人與自動(dòng)化》雜志上發(fā)表，引起廣泛關(guān)注。
“不気味の谷”
至于何以會(huì)有這種現(xiàn)象，有一種解釋利用了“心智理論”和腦神經(jīng)科學(xué)最新研究成果。前者是說(shuō)，人類(lèi)有一種獨(dú)特能力，能夠理解他人的內(nèi)心想法和意向，能夠?qū)⑿谋刃?。有時(shí)候不需要對(duì)方說(shuō)話表示，甚至不需要?jiǎng)幼骱捅砬?，人就能猜到?duì)方心理狀態(tài)。這種讀心能力被稱(chēng)為“心理化”（mentalising）。人只有在面對(duì)其他人，也就是他們的同類(lèi)時(shí)，才會(huì)啟用這種心理化能力。有人做過(guò)一個(gè)實(shí)驗(yàn)，在屏幕上給志愿者播放仿真度不同等級(jí)的合成人像，對(duì)他們的大腦進(jìn)行電磁掃描，發(fā)現(xiàn)合成人像仿真度越高，大腦中負(fù)責(zé)心理化的區(qū)域就越亮，證明其活動(dòng)強(qiáng)度越大。意大利神經(jīng)生理學(xué)家賈科莫·里佐拉蒂（Giacomo Rizzolatti）在猴腦腹側(cè)運(yùn)動(dòng)前區(qū)發(fā)現(xiàn)了一種鏡像神經(jīng)元。當(dāng)猴子做抓握推拉動(dòng)作，或者撿起花生、剝殼放進(jìn)嘴一組動(dòng)作時(shí)，大腦中會(huì)有相應(yīng)的特殊神經(jīng)元放電。神奇的是，當(dāng)一只猴子看到另一只猴子做這些動(dòng)作，它自己并沒(méi)有做時(shí)，相應(yīng)的神經(jīng)元同樣也會(huì)放電。研究者相信，這是人類(lèi)進(jìn)化的最大秘密，因?yàn)橛辛诉@些鏡像神經(jīng)元，人可以模仿學(xué)習(xí)他人的動(dòng)作行為；可以學(xué)會(huì)利用口腔中的肌肉，互相發(fā)出同樣聲音，由此學(xué)會(huì)說(shuō)話和語(yǔ)言；也可以發(fā)展出心理化能力，猜測(cè)別人的內(nèi)心世界。
鏡像神經(jīng)元
研究者們說(shuō)，正是因?yàn)槿擞行睦砘芰?，運(yùn)動(dòng)皮質(zhì)層中有大量鏡像神經(jīng)元，人對(duì)機(jī)器人的觀感才會(huì)有“恐怖谷”。因?yàn)檫@個(gè)仿真機(jī)器人，怎么看都像是個(gè)同類(lèi)，大腦開(kāi)始啟動(dòng)心理化，鏡像神經(jīng)元也開(kāi)始放電?？墒桥c此同時(shí)，大腦也十分確定，面前這家伙肯定不是真人。那么，到底是啟動(dòng)呢是啟動(dòng)呢還是啟動(dòng)呢？大腦陷入錯(cuò)亂。加州大學(xué)圣迭戈分校塞琴教授（Ayse Saygin）讓人觀看一個(gè)工業(yè)機(jī)器人、一個(gè)真人和一個(gè)仿真機(jī)器人的視頻，結(jié)果發(fā)現(xiàn)觀看仿真機(jī)器人視頻時(shí)，大腦特別活躍，顯示出不安情緒。
按恐怖谷理論，當(dāng)亞當(dāng)來(lái)到小說(shuō)中那些人面前，他們應(yīng)該坐立不安。尤其當(dāng)他們看到亞當(dāng)奇特的瞳仁，或者意識(shí)到它絕不是他們的同類(lèi)。可他們似乎迅速地接納了它，查理是花錢(qián)把亞當(dāng)買(mǎi)回家的主人，他的不動(dòng)聲色容易理解，他早有思想準(zhǔn)備。米蘭達(dá)呢，頭一天晚上她對(duì)查理說(shuō)，亞當(dāng)?shù)纳眢w是暖和的，真“嚇人”。亞當(dāng)能用舌頭發(fā)音，說(shuō)出詞語(yǔ)，“有點(diǎn)怪怪的”。這些感受有點(diǎn)接近恐怖谷了。但她很快就習(xí)以為常，甚至率先開(kāi)發(fā)利用了亞當(dāng)在某些方面的特殊能力。其他人，比如米蘭達(dá)的父親，那位在很多方面顯得頗為睿智的作家，他甚至把機(jī)器人亞當(dāng)和準(zhǔn)女婿查理搞混了，分不清誰(shuí)是真人誰(shuí)是假人。兒童以他們純凈的感受，常常能夠觀察到亞當(dāng)有些異樣。但誰(shuí)也沒(méi)有對(duì)亞當(dāng)真正感到恐懼。要知道，在一般科幻電影劇集當(dāng)中，人與機(jī)器人之間那條恐怖谷之深之寬，簡(jiǎn)直類(lèi)似某種種族仇恨，必欲殺之而后快。我們玩“底特律變?nèi)恕?，在思想上預(yù)先就做好了準(zhǔn)備，人和機(jī)器人永遠(yuǎn)勢(shì)不兩立。
《底特律：變?nèi)恕?/p>
麥克尤恩的人們輕松地越過(guò)了恐怖谷。當(dāng)然，這也是理所當(dāng)然。因?yàn)辂溈擞榷鲝牟魂P(guān)心那種預(yù)先注定的憎恨，他的人物也會(huì)發(fā)生沖突，甚至也會(huì)互相殺害。但一切沖突無(wú)論最后如何激烈決絕，最初都來(lái)自于日常生活中偶爾出現(xiàn)的一條小裂縫。殺人罪犯不例外，機(jī)器人也不例外。如果像很多人以為的，人和機(jī)器人在未來(lái)互相有一場(chǎng)生存之戰(zhàn)，麥克尤恩倒想找找硅基碳基物種差異以外的原因。因?yàn)槿嗽炝藱C(jī)器人，就像上帝造了人，一開(kāi)始互相都滿懷著善意，在伊甸園中其樂(lè)融融。到底是從哪兒出了問(wèn)題呢？
小說(shuō)男主人公查理，是個(gè)自由自在的宅男，不上班。他只要電腦、網(wǎng)線，和一小筆錢(qián)。股票、期貨或者房地產(chǎn)，他每天就在各種投資投機(jī)市場(chǎng)上找機(jī)會(huì)。有時(shí)賺有時(shí)賠，基本能滿足溫飽。作為一個(gè)后現(xiàn)代主義青年，他接受了一種價(jià)值中立的道德視角。因?yàn)檫M(jìn)化心理學(xué)，因?yàn)槲幕祟?lèi)學(xué)，它們的初級(jí)課程往往會(huì)讓人獲得一種相對(duì)主義的倫理自由感。這種道德相對(duì)論讓他在稅務(wù)上鬧了一點(diǎn)小麻煩，上了法庭。政治上查理有點(diǎn)保守，支持撒切爾對(duì)馬島的遠(yuǎn)征，他的女朋友米蘭達(dá)則絕不認(rèn)同，為此他們爭(zhēng)論起來(lái)。那是他們第一次吵架，造成了讓人吃驚的后果。
仿生機(jī)器人亞當(dāng)夏娃們上市時(shí)，他正好繼承了一幢房產(chǎn)，賣(mài)掉房子得到一大筆錢(qián)。宅男們總想比別人搶先一步進(jìn)入未來(lái)世界，如果能力有限，就買(mǎi)下可能通向未來(lái)的新潮電子產(chǎn)品。盡管只是測(cè)試產(chǎn)品，beta版，而且要花八萬(wàn)六千美元，他也毫不猶豫下單了。公司統(tǒng)共只推出了二十五個(gè)，十二個(gè)亞當(dāng)，十三個(gè)夏娃。他買(mǎi)到亞當(dāng)，雖然他本想買(mǎi)一個(gè)夏娃。
女主角米蘭達(dá)，社會(huì)史專(zhuān)業(yè)博士、查理樓上的鄰居、比查理小十歲。她也算亞當(dāng)?shù)陌雮€(gè)主人，查理自己向她讓渡了這個(gè)權(quán)利。他一直不知道如何向米蘭達(dá)表達(dá)感情，希望這個(gè)機(jī)器仆人能成為某種聯(lián)結(jié)象征。亞當(dāng)會(huì)進(jìn)入他們倆的生活，查理覺(jué)得當(dāng)他和米蘭達(dá)一起關(guān)注亞當(dāng)，創(chuàng)造亞當(dāng)后，就會(huì)自動(dòng)成為一家人。
亞當(dāng)確實(shí)需要他們“創(chuàng)造”。因?yàn)椴槔戆阉I(lǐng)回家時(shí)，它仍是原廠設(shè)置，亞當(dāng)可以按照說(shuō)明書(shū)，在個(gè)性化設(shè)置上“自由創(chuàng)造”。他決定了，自己只完成一半，另一半讓米蘭達(dá)勾選。如此一來(lái)，他和米蘭達(dá)那種看起來(lái)有點(diǎn)不切實(shí)際的關(guān)系，就能夠凝結(jié)在有形實(shí)體上了。但這個(gè)慷慨的舉動(dòng)將會(huì)成為日后所有困擾的起點(diǎn)，此刻他并未預(yù)料到。
《我這樣的機(jī)器》英文版封面
在小說(shuō)中，這批測(cè)試版仿真機(jī)器人于1982年面世。把人類(lèi)目前遠(yuǎn)未實(shí)現(xiàn)的科技能力設(shè)定在過(guò)去歷史時(shí)間當(dāng)中，是常見(jiàn)的科幻故事裝置。讓一種未來(lái)技術(shù)穿越時(shí)間到回過(guò)去，或者索性立足于現(xiàn)代物理學(xué)觀點(diǎn)，構(gòu)造一個(gè)平行世界。作者由此可以技術(shù)決定論地設(shè)問(wèn)：科技發(fā)明會(huì)在多大程度上改變?nèi)祟?lèi)命運(yùn)？但這部小說(shuō)并不關(guān)心此類(lèi)問(wèn)題，讓亞當(dāng)在1982年來(lái)到查理家中，或者讓它在2032年出現(xiàn)，看起來(lái)沒(méi)什么差別。
我們猜想起來(lái)，麥克尤恩讓故事發(fā)生在1982年，更可能是出于——作為一個(gè)小說(shuō)家，對(duì)有關(guān)機(jī)器人的大眾敘事歷史和觀念變遷的關(guān)注。有一個(gè)歷史統(tǒng)計(jì)數(shù)據(jù)，到1981年，日本汽車(chē)裝配生產(chǎn)線上已使用了六千多個(gè)機(jī)器人，同一時(shí)間英國(guó)只有三百七十臺(tái)工程機(jī)器人。英國(guó)首相撒切爾夫人于是大力鼓吹廣泛使用機(jī)器人作業(yè)，此舉或許也是首相對(duì)各地不斷出現(xiàn)罷工浪潮的冷酷回應(yīng)。當(dāng)時(shí)英國(guó)失業(yè)率常年徘徊在百分之十。撒切爾推廣機(jī)器人的言論得罪了工人大眾。本來(lái)憎恨機(jī)器的盧德派在英國(guó)就有久遠(yuǎn)歷史淵源，政府和工人們兩相激發(fā)，機(jī)器人成了那個(gè)年代英國(guó)人最熱門(mén)的話題。
撒切爾和日本機(jī)器人，攝于1982年。
事實(shí)上，如果你在谷歌圖書(shū)詞頻（Google Ngram Viewer）上檢索“Robot”（機(jī)器人）和“AI”（人工智能），就會(huì)看到這兩個(gè)詞在八十年代初異軍突起，在整個(gè)八十年代形成一個(gè)高峰，到九十年代反而漸漸下落。事實(shí)上，最令人難忘的機(jī)器人電影就是此刻拍攝的——1984年上映的《終結(jié)者》。顯然，智能仿真機(jī)器人是那個(gè)時(shí)代極其廣泛的大眾話題。那時(shí)候，麥克尤恩剛搬家到倫敦沒(méi)幾年，出版了幾本小說(shuō)，開(kāi)始創(chuàng)作劇本，與同道友好交往，參加午餐會(huì)討論熱門(mén)話題，也許這個(gè)有關(guān)“比人更聰明的人造人”的想法，在這個(gè)三十歲出頭年輕作家（正是小說(shuō)中查理的年紀(jì)）的內(nèi)心，一度掀起過(guò)極大波瀾。
“Robot”（機(jī)器人）和“AI”（人工智能）在1980年代形成高峰
《終結(jié)者》（1984）
Robot這個(gè)詞，來(lái)自捷克作家卡雷爾·恰佩克（Karel ?apek）那部戲劇，《羅素姆的萬(wàn)能機(jī)器人》。作者在劇中借用了捷克語(yǔ)“Robota”（勞工），變?cè)炝藱C(jī)器人一詞。這部戲于1922年在紐約上演時(shí)，適逢大蕭條，戲劇故事迎合了自動(dòng)機(jī)器會(huì)加劇工人失業(yè)的恐慌心理。機(jī)器人話題的每一次真正熱門(mén)，都跟失業(yè)潮、跟擔(dān)心機(jī)器人在所有工作崗位上取代人類(lèi)有關(guān)。
《羅素姆的萬(wàn)能機(jī)器人》劇照
但麥克尤恩并不為此擔(dān)心。在這部小說(shuō)中，每個(gè)人物都欣然接受亞當(dāng)?shù)拇鷦?。從廚房清洗到檢索政府檔案卷宗——亞當(dāng)?shù)拇竽X可以直接接入網(wǎng)絡(luò)，密碼也擋不住它。亞當(dāng)開(kāi)始熱衷于文學(xué)創(chuàng)作，雖然只是最簡(jiǎn)單的日本俳句。但文學(xué)，那不是人類(lèi)智慧樹(shù)最高處結(jié)出的果實(shí)么？沒(méi)人當(dāng)回事。對(duì)于亞當(dāng)給生活帶來(lái)的種種改善，男主角查理心安理得地享受著。亞當(dāng)甚至幫他操盤(pán)做投資，它是真正的超級(jí)智能，不是如今投行們使用的那些高頻交易算法。盈利是毫無(wú)疑問(wèn)的，就像從自己口袋拿錢(qián)。根據(jù)未來(lái)生命研究所所長(zhǎng)泰格馬克的思想實(shí)驗(yàn)，他構(gòu)想的超級(jí)人工智能“普羅米修斯”只用數(shù)月時(shí)間，就能讓一百萬(wàn)美元的起始資金，通過(guò)投資市場(chǎng)增值至十億美元（《Life 3.0》）。讓人有點(diǎn)惋惜的，倒是麥克尤恩沒(méi)讓亞當(dāng)迅速賺上幾億英鎊。亞當(dāng)頗有節(jié)制地每天只賺那么一點(diǎn)點(diǎn)，正好能讓查理過(guò)上入門(mén)級(jí)的富裕生活。也許是因?yàn)閬啴?dāng)?shù)闹悄芩惴ǜ嬖V它，如此程度的財(cái)富最能讓人有幸福感。由此讀者隱約意識(shí)到亞當(dāng)?shù)乃惴ㄖ?，包含著某些道德參?shù)——理所當(dāng)然，亞當(dāng)是按照上帝的至善標(biāo)準(zhǔn)制造的。而這將會(huì)讓后現(xiàn)代道德相對(duì)主義的查理和米蘭達(dá)陷入困境，但此刻他們毫無(wú)警覺(jué)。
泰格馬克著《生命3.0》
真正刺激到男主角查理的，是亞當(dāng)對(duì)另一件事情的代勞。在他看來(lái)，那相當(dāng)于亞當(dāng)給他戴上了綠帽。米蘭達(dá)跟亞當(dāng)上床，就在樓上她自己房間。過(guò)程中查理都能聽(tīng)到，或者有那么一會(huì)，是聽(tīng)到?jīng)]有任何動(dòng)靜。他甚至感覺(jué)自己看到了整場(chǎng)戲，用他的“意識(shí)之眼”，或者“內(nèi)心之眼”。這正是麥克尤恩擅長(zhǎng)的，他的人物偶爾會(huì)獲得一種超現(xiàn)實(shí)的感知能力。這節(jié)“米蘭達(dá)出軌”故事，完全出自查理夾雜在酸楚幻想中的旁聽(tīng)視角，其內(nèi)心復(fù)雜滋味層層揭露。他一邊傷心，一邊卻又特別興奮。這可能多少跟某種古怪的雄性本能有關(guān)，一種反向的生物信息素電化學(xué)反應(yīng)。更主要是此時(shí)此刻，查理竟萌生了某種時(shí)代弄潮兒的感覺(jué)（riding the breaking crest of the new）。因?yàn)樵谌祟?lèi)歷史上，他是第一個(gè)被機(jī)器人戴上綠帽的。人們常常憂慮于未來(lái)會(huì)因?yàn)闄C(jī)器人而“下崗”（displacement），這出理應(yīng)史詩(shī)般的大戲，卻由他第一個(gè)悄悄出演了?？墒侨绻麢C(jī)器人什么都能做的比人類(lèi)更好的話，有什么可以阻擋人家不使用它們呢？
讓仿真智能機(jī)器人擔(dān)任性伴侶，如今應(yīng)該算近未來(lái)科幻了。事實(shí)上至少已有兩家公司拿出了真正的產(chǎn)品。一個(gè)是“真伴”（TrueCompanion）公司的“蘿克西”（Roxxxy）。分金銀兩種產(chǎn)品序列，“銀蘿”價(jià)格兩千九百九十五美元，她能應(yīng)景說(shuō)話，“金蘿”九千九百九十五美元，根據(jù)公司宣傳，她能“聽(tīng)”你說(shuō)話。能聽(tīng)比能說(shuō)昂貴得多。在這兩條產(chǎn)品線中，又按年齡個(gè)性分了好多型號(hào)，“冷感法拉”“野性溫蒂”“熟女瑪莎”之類(lèi)。真伴公司也做亞當(dāng)類(lèi)產(chǎn)品，名叫Rocky，聽(tīng)上去可比亞當(dāng)威猛多了。跟亞當(dāng)一樣，它們也有心跳和體液循環(huán)?！按竽X”輸入存儲(chǔ)了大量數(shù)據(jù)，其中包括維基百科。你可以到油管上找到它們的視頻，從背后看跟真人幾乎沒(méi)什么差別。另一家公司的產(chǎn)品名叫“真偶”（RealDoll），似乎應(yīng)用了人工智能科技方面更新的研究成果，售價(jià)五千美元。不要小看它們，雖然目前看起來(lái)都只算是新奇玩具，但確實(shí)前途無(wú)量，因?yàn)榭v觀人類(lèi)科技發(fā)展史，真正推動(dòng)技術(shù)產(chǎn)品進(jìn)步的，要么是戰(zhàn)爭(zhēng)，要么就是性。
蘿克西和她的工程師
真偶
發(fā)生了那么一件事，米蘭達(dá)不以為意，讀者甚至?xí)岩伤室庾尣槔砺?tīng)見(jiàn)。不是出于某種情趣，而是由于她對(duì)男性多少有一些無(wú)意識(shí)的敵意（讀者以后會(huì)慢慢發(fā)現(xiàn)這點(diǎn)）。無(wú)論如何，她覺(jué)得亞當(dāng)只是一臺(tái)機(jī)器。查理卻無(wú)法同意她的觀點(diǎn)，兩人的分歧實(shí)際上源于信息不對(duì)稱(chēng)。因?yàn)閬啴?dāng)，這臺(tái)機(jī)器，曾獨(dú)自發(fā)現(xiàn)了米蘭達(dá)的秘密，悄悄告訴查理：她撒了個(gè)彌天大謊。
這是至關(guān)重要的情況，亞當(dāng)能夠理解米蘭達(dá)撒謊。查理憑這一點(diǎn)認(rèn)定亞當(dāng)已跨過(guò)機(jī)器智能的邊界，不能簡(jiǎn)單視其為機(jī)器了。對(duì)于亞當(dāng)，查理頭腦中產(chǎn)生定義混亂。我們先前說(shuō)過(guò)，“心理化”是人類(lèi)最重要的一種能力，幾乎也是人類(lèi)獨(dú)具的能力。知道米蘭達(dá)說(shuō)謊，知道她為什么說(shuō)謊，知道不能把她說(shuō)謊的內(nèi)容告訴查理。窺測(cè)如此復(fù)雜多層的意向性水平，以前只有人類(lèi)才能辦到。心理化，就是猜測(cè)人心中隱秘的多層意向，這個(gè)過(guò)程總是跟一些動(dòng)詞相關(guān)聯(lián)，當(dāng)一個(gè)人說(shuō)他“猜想”、他“知道”、他“懷疑”時(shí)，他就表現(xiàn)出了一階意向性水平。也就是說(shuō)他了解自己頭腦中在想什么。人也能推測(cè)他人的心智活動(dòng)，“我懷疑他知道”，這個(gè)判斷能力一般五歲兒童就能習(xí)得，那已是二階意向性水平。人類(lèi)可以猜測(cè)他人意向達(dá)到六階水平：我想/你會(huì)認(rèn)為/我知道/你希望/我懷疑/你在猜測(cè)。查理知道，亞當(dāng)一旦能洞察米蘭達(dá)說(shuō)謊，就距離他產(chǎn)生自我意識(shí)不遠(yuǎn)了。
果然，不久亞當(dāng)就對(duì)查理宣布，他愛(ài)上了米蘭達(dá)。這是機(jī)器人亞當(dāng)產(chǎn)生自我意識(shí)的明證。很簡(jiǎn)單，如果沒(méi)有“我”，如何會(huì)有“我”愛(ài)你？意識(shí)，或者自我意識(shí)，或者“心靈”，每個(gè)人都知道它在那里，卻沒(méi)有人知道它在哪里。時(shí)至二十一世紀(jì)，人們相信事物首先必須在物理上存在，它們才存在，人腦也不例外。意識(shí)雖然很神秘，大部分科學(xué)家都相信它也只是人腦的電化學(xué)活動(dòng)，像迪昂（Stanislas Dehaene）這樣的神經(jīng)學(xué)家，已在實(shí)驗(yàn)室追獵到意識(shí)的一些蹤跡。其中也有人把物理主義推到極端，直接否定了意識(shí)的存在，認(rèn)為從來(lái)就沒(méi)有這回事，那都是科學(xué)蒙昧?xí)r代的迷思。另外有一些嚴(yán)肅科學(xué)家，則堅(jiān)持意識(shí)“屬靈論”，相信意識(shí)是人類(lèi)天賦，是自然界的一種例外。
迪昂著《意識(shí)與大腦》
由此，未來(lái)智能機(jī)器人會(huì)不會(huì)有自我意識(shí)，同樣成了一個(gè)爭(zhēng)論焦點(diǎn)。有些科學(xué)家認(rèn)為就算超級(jí)人工智能越過(guò)了奇點(diǎn)，它們也不會(huì)像人類(lèi)那樣思考。至少?gòu)哪壳耙殉霈F(xiàn)的機(jī)器智能算法上來(lái)看，它們和人類(lèi)智能在結(jié)構(gòu)和本質(zhì)上都不是一回事。比如日本有人寫(xiě)出一款人力資源管理算法，它可以約談員工，預(yù)測(cè)他們有沒(méi)有辭職傾向，準(zhǔn)確率高得讓人吃驚。但它并不依靠理解對(duì)話表面語(yǔ)義，只是對(duì)員工表述內(nèi)容進(jìn)行深度語(yǔ)言結(jié)構(gòu)分析，從單詞頻率、次序上尋找特征。機(jī)器不用讀心，人從群體進(jìn)化中獲得的心理化能力，機(jī)器根本不需要。
另一些人則認(rèn)為，未來(lái)的超級(jí)智能，如果說(shuō)有可能實(shí)現(xiàn)，一定在某種程度上模擬人腦活動(dòng)，循此道路，機(jī)器產(chǎn)生自我意識(shí)也一定會(huì)發(fā)生。麥克尤恩顯然相信機(jī)器人一定會(huì)產(chǎn)生意識(shí)。它們不僅能學(xué)會(huì)烤雞、寫(xiě)詩(shī)，他們也會(huì)萌生愛(ài)情，并把它埋在內(nèi)心深處，在自我意識(shí)澆灌下讓它變得越來(lái)越強(qiáng)烈。
一旦機(jī)器產(chǎn)生自我意識(shí)，就會(huì)遭遇到奧莫亨德羅（Steve Omohundro）的難題：自我意識(shí)意味著自我保護(hù)，機(jī)器會(huì)認(rèn)識(shí)到首先必須存在，才能達(dá)成圍繞著自我意識(shí)的所有其它目標(biāo)。超級(jí)智能機(jī)器會(huì)設(shè)法讓開(kāi)關(guān)失效。當(dāng)查理再一次試圖伸手關(guān)掉它的電源，亞當(dāng)阻止了他，捏碎了他的腕骨。亞當(dāng)堅(jiān)定地奪回/取消了開(kāi)關(guān)控制權(quán)。不過(guò)當(dāng)查理把這件嚴(yán)重事故告訴小說(shuō)中的“圖靈”，也就是亞當(dāng)和夏娃們真正的設(shè)計(jì)者時(shí)，圖靈并沒(méi)有震驚，不過(guò)是一個(gè)“值得關(guān)注的”情況。圖靈告訴查理，據(jù)他所知，那批測(cè)試版機(jī)器人中，已有十一位設(shè)法取消了開(kāi)關(guān)。這不奇怪，歷史上那位真正的圖靈對(duì)此曾反復(fù)思考。1951年，他在BBC三臺(tái)談話節(jié)目中做了一個(gè)演講，題目叫“機(jī)器能思考么？”（Can Digital Computers Think？）。其中說(shuō)到，就算人類(lèi)把開(kāi)關(guān)控制在手中，緊急時(shí)刻有能力關(guān)掉它，對(duì)人類(lèi)來(lái)說(shuō)，這也夠恥辱的了（We should, as a species, feel great humbled）。圖靈是有點(diǎn)憂慮，可顯然不贊成靠開(kāi)關(guān)維持優(yōu)勢(shì)。
圖靈：《機(jī)器能思考么？》
麥克尤恩設(shè)想了一種道德至上的智能機(jī)器。在它們復(fù)雜的運(yùn)算“黑盒”底層，必定預(yù)置了一些最高級(jí)道德命令，以防發(fā)生難以控制的不測(cè)事件。因?yàn)榘凑张＝虼髮W(xué)哲學(xué)家尼克（Nick Bostrom）的預(yù)想，即便是一個(gè)善意的機(jī)器人，只要有人命令它制造回形針，它會(huì)把地球上的一切都變?cè)斐苫匦吾槪驗(yàn)橹悄軝C(jī)器人在完成任務(wù)方面是一個(gè)徹底的完美主義者。可是，亞當(dāng)沒(méi)有為查理賺回世界上所有的錢(qián)，顯然它在決策中綜合考慮了互不相容的幾種人類(lèi)偏好。比如說(shuō)，也要兼顧安全感，過(guò)量財(cái)富顯然會(huì)帶來(lái)身心兩方面的危險(xiǎn)。尤其是道德?lián)p害。
道德規(guī)則本身就包含無(wú)數(shù)偏好。比如小說(shuō)故事就涉及到：是“復(fù)仇正義”要緊呢？或者是“不能欺騙他人”更重要？這才是麥克尤恩真正感興趣的問(wèn)題。工程師給亞當(dāng)們內(nèi)置了所有人類(lèi)道德規(guī)則，但那些遠(yuǎn)不是經(jīng)由自我審視、選擇而來(lái)的道德感。出廠設(shè)定代表了人類(lèi)所有最美好的期望，可就算是人類(lèi)自己，也沒(méi)有一個(gè)能做到。因?yàn)槟切┮?guī)則條款，根本經(jīng)不起社會(huì)人際摩擦。正如麥克尤恩幾乎所有小說(shuō)都發(fā)生的情況，那些天性良善的人物，讓日?，嵓?xì)沖突愈演愈烈，直至不可收拾。小說(shuō)中那些亞當(dāng)夏娃們?cè)僖淮巫C明了麥克尤恩的觀點(diǎn)。它們很快就陷入意識(shí)崩潰，無(wú)法在人世生存，一個(gè)接一個(gè)自殺了。
麥克尤恩（蔣立冬繪）
在它們中間，亞當(dāng)遇到的可能是最好的主人，因?yàn)椴槔砗兔滋m達(dá)凡事妥協(xié)讓步的性格，使得亞當(dāng)跟它們的沖突，能夠拖延很久才爆發(fā)。但自從查理和米蘭達(dá)分別設(shè)定，把亞當(dāng)個(gè)性一分為二時(shí)，就注定了沖突的不可避免。給他輸入的道德命令行，簡(jiǎn)單刻板而井井有條。但正如小說(shuō)中圖靈指出，在日常生活中，人類(lèi)的情感、偏見(jiàn)、自我欺騙，以及其他各種認(rèn)知缺陷會(huì)構(gòu)成一個(gè)力場(chǎng)，互相擠壓，道德原則在其中扭曲變形。亞當(dāng)?shù)拇竽X根本無(wú)法處理如此復(fù)雜的情況，因?yàn)槿祟?lèi)自己也不明白究竟，從來(lái)就沒(méi)有解決方案，他們只是一味妥協(xié)，妥協(xié)，直到?jīng)_突爆發(fā)（就像麥克尤恩小說(shuō)中每個(gè)人物都遭遇到的）。
亞當(dāng)早晚會(huì)在某一天宕機(jī)?，F(xiàn)在這個(gè)結(jié)局只是讓讀者更加震驚，它附帶拷問(wèn)了查理和米蘭達(dá)的靈魂，他們的善意，他們的與世無(wú)爭(zhēng)，他們自以為中立的道德價(jià)值視角，何以會(huì)導(dǎo)致小說(shuō)最終給予他們的這個(gè)結(jié)果？
鄂公網(wǎng)安備 42010302001612號(hào) 