問(wèn)題6. “為什么給它們刀片呢？”

不要給小孩刀片是一個(gè)常識(shí)，因?yàn)樗麄冎粫?huì)傷害到自己。小孩們?nèi)狈ΤＷR(shí)，不知道刀刃是很危險(xiǎn)的，也不具有小心處理刀片的能力。很多國(guó)家關(guān)于禁止公民私自擁有槍支也持有類似的考慮。給予這樣的允許只會(huì)大規(guī)模增加槍殺率，因?yàn)榇蠖鄶?shù)這樣的持槍殺人事件發(fā)生在家庭成員的短暫暴怒中，并且緊接著的就是無(wú)盡的懺悔。(根據(jù)統(tǒng)計(jì)數(shù)據(jù)，在美國(guó)，由于槍支的易購(gòu)性，每年有30 000起槍殺事件，而在禁止藏槍的日本，每年僅有100起。)我的某些批評(píng)者可能會(huì)認(rèn)為，同樣的邏輯應(yīng)該適用于人工智能機(jī)器。如果想讓它們對(duì)人類無(wú)害，就不應(yīng)該讓它們擁有武器。

來(lái)信

親愛(ài)的德·加里斯教授：

我認(rèn)為沒(méi)有任何理由去懼怕這樣的機(jī)器。如果你不想讓這樣的機(jī)器做某些事情，那么就別給它們這樣的能力。機(jī)器不可能發(fā)射核彈頭，除非你賦予它們相應(yīng)的能力。同樣，機(jī)器人不會(huì)反對(duì)并且殺死它們的制造者，除非你讓它們擁有這樣的能力。我看待這個(gè)問(wèn)題的方式是，制造可以自己獨(dú)立思考的機(jī)器，然后把它們放置在一個(gè)控制室內(nèi)，給予它們發(fā)射導(dǎo)彈的能力，將是非常愚蠢的行為。如果你可以避免做出類似愚蠢事情的話，就根本不需要懼怕這些機(jī)器。要知道哪些事情可為，哪些不可為。看看電影《戰(zhàn)爭(zhēng)游戲》(War Games)，或者，既然你曾經(jīng)在日本呆過(guò)，試試看看電影《攻殼機(jī)動(dòng)隊(duì)》(Ghost in the Shell)。我編寫人工智能軟件已經(jīng)有些年頭，所以我覺(jué)得我的觀點(diǎn)至少有些分量。

回答

這個(gè)論述一個(gè)明顯的缺點(diǎn)就是，它不準(zhǔn)備給予人工智能機(jī)器足夠的智慧。一個(gè)至少達(dá)到接近人類智慧水平和感知能力的人工智能機(jī)器，例如視覺(jué)、聽(tīng)覺(jué)，等等。如果它們真想的話，將可以以自己的方式來(lái)行賄人類，讓其可以控制武器。舉個(gè)例子，一個(gè)非常聰明，可以接觸到世界上的所有數(shù)據(jù)庫(kù)，至少比人類思考快百萬(wàn)倍的人工智能機(jī)器，可能有能力發(fā)現(xiàn)一些對(duì)人類來(lái)說(shuō)有巨大價(jià)值的事物。例如，它可能會(huì)發(fā)現(xiàn)如何經(jīng)營(yíng)全球經(jīng)濟(jì)而不需要長(zhǎng)期的商業(yè)周期的方法，或者如何去治療癌癥，或者是如何在物理學(xué)上得出“萬(wàn)事理論”(Theory of Everything，TOE)，等等。然后，它可以把這些知識(shí)當(dāng)作手中的王牌來(lái)和其人類“主人”談判，獲取想要的工具。

當(dāng)然，人們可以給予人工智能機(jī)器非常少的對(duì)外感知能力，但是，如果它沒(méi)有什么用，我們又為什么去制造它呢？一個(gè)聰明的人工智能機(jī)器可以通過(guò)其最初有限的對(duì)外接觸來(lái)發(fā)現(xiàn)知識(shí)，然后通過(guò)其智慧來(lái)控制人類滿足它們的愿望。一個(gè)高級(jí)人工智能機(jī)器可能是一個(gè)超級(jí)福爾摩斯偵探，很快就可以推導(dǎo)出世界是什么樣子的。它明白它可以控制武器來(lái)反對(duì)人類，如果它真的想這樣做的話。人工智能機(jī)器可以通過(guò)賄賂、威脅、引誘，等等任何必要的方法，去說(shuō)服人類為其提供接觸武器的機(jī)會(huì)。