問(wèn)題7. “為什么過(guò)度強(qiáng)調(diào)負(fù)面部分？”

一位讀者給了我一些常識(shí)性的建議，如果他是對(duì)的，那我在將來(lái)應(yīng)該更加注意。他的重點(diǎn)是，我不應(yīng)該“煽動(dòng)”這樣的反對(duì)，這將導(dǎo)致我的工作受阻。

來(lái)信

親愛(ài)的德·加里斯教授：

對(duì)于我們?cè)谶^(guò)去的交流，我非常感激。在CNN在線，我讀了您的一篇文章，您在這篇文章中再一次談?wù)摿艘粓?chǎng)發(fā)生在那些想要制造自動(dòng)機(jī)器人的人們和那些反對(duì)制造的人們之間的潛在沖突。雖然我知道您的評(píng)論可能被某些人看作對(duì)未來(lái)的警告，但是我知道您在人工智能研究領(lǐng)域上進(jìn)展迅速。您是否認(rèn)為您的“警告”將對(duì)您的研究產(chǎn)生負(fù)面影響呢？

一些國(guó)家最近已經(jīng)明令禁止克隆研究。是否有可能，太多關(guān)于機(jī)器人的恐怖故事會(huì)促使一些人去尋求對(duì)于人工智能和自動(dòng)機(jī)器人研究的禁令？那樣會(huì)對(duì)您的人工大腦項(xiàng)目帶來(lái)怎樣的影響呢？把哲學(xué)放在一邊不說(shuō)，單單從公共關(guān)系角度來(lái)說(shuō)，我們是否應(yīng)該至少在公共場(chǎng)合強(qiáng)調(diào)人工智能和機(jī)器人以及機(jī)器人學(xué)的正面效應(yīng)呢？我希望，機(jī)器人可以變成我孩子們的玩具而不希望讓他們做機(jī)器人的噩夢(mèng)。

同時(shí)，我也確實(shí)意識(shí)到，在未來(lái)可能潛伏著一些真正可怕的危險(xiǎn)。我個(gè)人關(guān)于人工智能、人工智能機(jī)器等所有問(wèn)題的看法還沒(méi)有完全形成。我相信科學(xué)和進(jìn)步。我同時(shí)也有這樣的認(rèn)識(shí)，人類(lèi)渴望制造一個(gè)更加完美版本的自身。我們應(yīng)該停止研究嗎？不！我們是否應(yīng)該繼續(xù)不受控制？我不知道以上問(wèn)題的答案，但是記者的經(jīng)歷使我知道，一個(gè)像您這樣具有爭(zhēng)議性的人物，會(huì)被無(wú)禮地拿來(lái)作為引用材料。他們這樣做是為了擁有好的報(bào)導(dǎo)素材。

我知道，您想要敘說(shuō)您的故事，并且有很多人想要聆聽(tīng)您的敘述。人類(lèi)克隆技術(shù)可能比人工智能技術(shù)離人們更近，但是，大眾可以并且經(jīng)?？梢越Y(jié)合成一個(gè)憤怒的整體。如果您允許自己成為弗蘭肯斯泰因博士(被自己的創(chuàng)造物毀滅的人，作法自斃的人)的話，那么，可能有人會(huì)對(duì)您所說(shuō)和所做的非常不滿。我只是希望您不要對(duì)恐怖故事的宣傳做得太過(guò)火。

回答

我是比較實(shí)際的。就像蘆葦一樣我會(huì)隨風(fēng)而彎不至于折斷，以便我的工作可以繼續(xù)。我會(huì)認(rèn)真考慮你的意見(jiàn)，因?yàn)檫@是好的建議。我猜想這是一個(gè)程度的問(wèn)題。我強(qiáng)烈地覺(jué)得應(yīng)該去警示大眾。我們會(huì)在20年內(nèi)擁有“一原子一比特”的計(jì)算機(jī)內(nèi)存，并且可能也會(huì)擁有納米技術(shù)。第一臺(tái)人工大腦的產(chǎn)生只是一個(gè)時(shí)間問(wèn)題，并且不會(huì)要很多年的時(shí)間。人工智能問(wèn)題將在本世紀(jì)變得非?，F(xiàn)實(shí)。

作為最早的一批在政治意義上認(rèn)真思考這些問(wèn)題的科學(xué)家之一，并且作為一名真正的人工大腦制造者，我非常焦慮。由于時(shí)間還夠，我覺(jué)得我有一種道德上的責(zé)任去警示大眾。(如果要討論這件事情上面明顯的偽善性，比如說(shuō)，我在進(jìn)行大腦制造的同時(shí)卻對(duì)此持焦慮態(tài)度，請(qǐng)閱讀下面的另一個(gè)評(píng)論。)

我認(rèn)為，技術(shù)上的指數(shù)級(jí)增長(zhǎng)會(huì)帶來(lái)知識(shí)上的指數(shù)級(jí)增長(zhǎng)，這將確保我在本書(shū)中提出的問(wèn)題在十幾年內(nèi)變得眾所周知。我認(rèn)為我必須去宣傳這條信息，在事情突然到來(lái)之前給予人類(lèi)時(shí)間來(lái)思考這個(gè)問(wèn)題。請(qǐng)閱讀第一個(gè)關(guān)于“時(shí)間問(wèn)題”的討論。但是如果我走向極端，那么你可能是對(duì)的。

我將靜觀其變，來(lái)看看大眾的意見(jiàn)。如果大眾的意見(jiàn)變得過(guò)于負(fù)面，也許我將軟化一些。我自己也不能肯定我該做些什么。人工智能問(wèn)題仍然很陌生，并且即使是在我的腦海中我還一直試圖融合所有的枝節(jié)—— 技術(shù)的、科學(xué)的、道德的、哲學(xué)的、政治的、宗教的、宇宙的，等等。