問(wèn)題11. “悲劇可以避免嗎？”

下面的一些問(wèn)題，來(lái)自我和我的一些朋友。本來(lái)我想單獨(dú)寫(xiě)一章節(jié)，但是最后還是決定在這里討論它。

來(lái)信

親愛(ài)的德·加里斯教授：

您的工作是如此的悲觀，它給予人們的印象是大規(guī)模死亡的戰(zhàn)爭(zhēng)將不可避免。難道沒(méi)有更加正面的前景嗎？

回答

是的，有正面的，我將在下面列舉和討論一些，因?yàn)檫@個(gè)問(wèn)題是非?；镜?。然而我個(gè)人的觀點(diǎn)是，下面的每一個(gè)場(chǎng)景的可能性都不大。我花費(fèi)很多時(shí)間希望能夠找到避免我在本書(shū)描述的凄涼景象的替代前景，但是，我每次描述的新場(chǎng)景好像永遠(yuǎn)都不會(huì)成為現(xiàn)實(shí)。我請(qǐng)讀者自己來(lái)做出判斷。我希望下面所提供的替代場(chǎng)景容易理解。每一個(gè)場(chǎng)景都緊跟著我的評(píng)論，來(lái)解釋為什么我認(rèn)為這個(gè)場(chǎng)景是經(jīng)不住認(rèn)真推敲的。我給了8個(gè)場(chǎng)景來(lái)說(shuō)明很多替代場(chǎng)景是可能的。

作為讀者，你們可能會(huì)想象出其他的場(chǎng)景。如果你經(jīng)過(guò)思考真的覺(jué)得你的場(chǎng)景是可能的，并且這個(gè)場(chǎng)景里沒(méi)有人類(lèi)的災(zāi)難，那么請(qǐng)和我聯(lián)系，因?yàn)槿绻屹澩愕挠^點(diǎn)，興許我可以在晚上睡得踏實(shí)點(diǎn)。其他關(guān)心本書(shū)所提問(wèn)題的人也會(huì)更高興聽(tīng)到您的觀點(diǎn)，并且我可能在之后改編此書(shū)時(shí)提到這點(diǎn)。

場(chǎng)景1 地球主義者會(huì)以人類(lèi)微小的代價(jià)勝出

這里的觀點(diǎn)是，地球主義者組成了地球公民的主體，他們是無(wú)情的并且可以迅速撲滅宇宙主義思想和宇宙主義者。他們殺死宇宙主義者，只是殺死幾百萬(wàn)，防止宇宙主義者真正有機(jī)會(huì)結(jié)為大型組織。

評(píng)論

我不覺(jué)得這會(huì)發(fā)生。事實(shí)上，人們更期待新事物的產(chǎn)生，也就是說(shuō)，本世紀(jì)人工智能的崛起將屬于像我這樣非常明白大腦制造前景的宇宙主義者。我預(yù)言，遲些時(shí)候，一旦大眾的了解成為普遍的事實(shí)，越來(lái)越意識(shí)到人工智能問(wèn)題的宇宙主義者和地球主義者的數(shù)目將達(dá)到相當(dāng)。雙方將有時(shí)間在政治上、思想上和軍事上進(jìn)行準(zhǔn)備。

當(dāng)我讓人們?cè)谖业难葜v結(jié)束后投票表決人類(lèi)是否應(yīng)該制造人工智能機(jī)器時(shí)，表決結(jié)果的比例是50︰50，所以說(shuō)地球主義者將不可能是主體。當(dāng)事情真的來(lái)臨的時(shí)候，并且當(dāng)真正開(kāi)始制造人工智能機(jī)器的時(shí)候，這個(gè)比例是否會(huì)變還是一個(gè)待解之謎。

場(chǎng)景2 人類(lèi)適應(yīng)了地球上的人工智能機(jī)器，人工智能機(jī)器們不理睬我們并且離開(kāi)這個(gè)星球

這里的觀點(diǎn)是，人工智能機(jī)器的崛起是如此的緩慢，以至于人類(lèi)適應(yīng)了它們，即使它們變得比我們更加聰明?？赡苁聦?shí)上沒(méi)有什么真正壞的事情發(fā)生。人工智能機(jī)器大規(guī)模在智慧上超越我們，并且離開(kāi)這個(gè)星球去做其他的事情。

評(píng)論

我認(rèn)為這絕對(duì)是一個(gè)可能的場(chǎng)景，但是它充滿(mǎn)風(fēng)險(xiǎn)。我們永遠(yuǎn)都不能確定人工智能機(jī)器一直會(huì)對(duì)我們友好。它們對(duì)我們來(lái)說(shuō)是如此的深不可測(cè)，并且難以預(yù)料。人類(lèi)的命運(yùn)將在它們的手中。它們可以在任何時(shí)候以我們可能永遠(yuǎn)無(wú)法了解的原因反對(duì)我們。我不認(rèn)為有責(zé)任心的、具有全局思維的、關(guān)心人類(lèi)命運(yùn)的地球主義領(lǐng)導(dǎo)者會(huì)接受這樣的風(fēng)險(xiǎn)。他們一定不會(huì)容忍人類(lèi)冒這樣的風(fēng)險(xiǎn)。

場(chǎng)景3 宇宙主義者變得普遍不受歡迎以至于他們消失了

也許早期制造人工智能的實(shí)驗(yàn)結(jié)果是如此的消極，即使宇宙主義者也開(kāi)始害怕而轉(zhuǎn)變?yōu)榈厍蛑髁x者，并且達(dá)到了沒(méi)有一個(gè)宇宙主義者的程度。

評(píng)論

我覺(jué)得這是非常不可能的。總會(huì)有宇宙主義者，并且有不同虔誠(chéng)和狂熱程度的宇宙主義者。那些認(rèn)為“一個(gè)人工智能機(jī)器頂?shù)蒙先f(wàn)億萬(wàn)億人類(lèi)”的宇宙主義狂熱分子，將不允許任何阻止他們的逆流。他們將堅(jiān)持干下去。只要有數(shù)百位進(jìn)行秘密研究的宇宙主義者就完全可以制造出人工智能機(jī)器。通過(guò)自我說(shuō)服讓所有的宇宙主義者從這個(gè)地球上消失幾乎是不可能的。

場(chǎng)景4 半機(jī)器人的選擇變得非常有吸引力以至于沒(méi)有人愿意成為地球主義者