評論

如果有超級人工智能機器，為什么它們會在意我們?nèi)绱嗽嫉娜祟悾皇瞧渌斯ぶ悄軝C器呢？另一方面，人工智能機器對于那些超級人工智能機器更有吸引力，更有可能得到它們的幫助。這些超級人工智能機器可能相信“人工智能原則”，來解釋“人類原則”，那就是“物理的原則是特別設(shè)計的，以便能夠制造出人工智能機器，這是創(chuàng)造宇宙的目的！”

場景9 現(xiàn)在開始探討人類出路的問題，也許我們可以找到一條共同生存的道路

我很喜歡您的書，這是我讀過的最有意義的一本書了。您提的問題是人類有史以來最值得思考的問題。

讀第一遍，我震驚，讀第二遍，我害怕，讀第三遍，我開始悲觀，但是，作為人類我不甘心，于是我又開始讀第四遍，我想我們應(yīng)該開始尋找出路了。

我覺得還是有希望的，一開始我們覺得一定有很多人會是“地球主義者”，可是事實上，“地球主義者”和“宇宙主義者”往往各占半數(shù)。那么，試想一下，幾十年后，隨著科技的普及，是不是受過良好教育的大多數(shù)人，更愿意選擇“宇宙主義者”，這樣就沒有人類之間的可怕紛爭，我們都接受機器人是我們的“神”，而人類也許從出生開始，就像接種疫苗一樣，開始按照年齡接種晶片。大多數(shù)人都可以成為非常神奇的半機器人。這樣，人類整體的能力有了本質(zhì)的飛躍，地球上的人類不需要再通過一些低級的手段進(jìn)行各種無聊的經(jīng)濟(jì)、軍事和政治競爭?？梢哉f，實現(xiàn)了馬克思的共產(chǎn)主義社會。這樣，人類也好，神一樣的機器人也好，就像書中所設(shè)想的一種情況，地球上最出色的物種將會把自己的視線投向宇宙，去探討或到宇宙中旅行，去尋找其他有可能允許生命成長的星球，并把地球上的一些生物輸送到那里。也許那時侯，這類讓人類頭疼的“地球上是先有雞還是先有蛋” 的問題，會成為小孩子們的笑話，他們一定不理解：以前的人類在幾千年的文明歷史中竟然一直不知道這個簡單問題的答案！

或者我們還可以這樣設(shè)想，您說那時侯人類和機器的差距就如同我們和蚊子甚至巖石的差距，可是并不是每個人都會不留情的殺死蚊子，例如，得道的高僧，例如耶穌，在最后被釘于十字架時，還在請求上帝寬恕害死他的人，所以，如果一開始我們在研制智能機器的時候，給它們加上類似耶穌和釋迦牟尼的境界這樣的元素，這樣，智能機器無論怎樣進(jìn)化，在境界方面至少不會低于耶穌和釋迦牟尼，它們就會厭惡血腥的東西，人類就安全了。

評論

我覺得你說的是一種看上去很簡單的理想狀態(tài)，要在實際中實現(xiàn)卻是非常復(fù)雜的，人類很難按照這種理想的設(shè)想發(fā)展。我們在平時生活和工作中遇到過很多更容易實現(xiàn)的情況，例如，我們經(jīng)常會為自己設(shè)計短期目標(biāo)，看上去很有把握，一定會實現(xiàn)，可實際上往往不能實現(xiàn)。這也是我出版本書的目的，我和你一樣希望人類有美好的結(jié)局。但這非常艱難，幾乎不可能。你無法設(shè)計出無懈可擊的步驟，請問這種理想狀態(tài)是怎么一步步實現(xiàn)的？

讓我們一起去努力吧！

本書基本上結(jié)束了。剩下的一個章節(jié)只是為了那些想要對本書的主要論題有一個快速回顧的讀者所做的短小總結(jié)。在此之后是一個術(shù)語表。作為讀者，很可能被本書包含的那么多新術(shù)語弄得有點暈頭轉(zhuǎn)向。術(shù)語表把所有的術(shù)語以一種簡潔的方式組織在一起，還是非常值得一讀的。