問題9. “如果一個人工智能機(jī)器變得有意識，消滅它嗎？”

下述的觀點更好地表達(dá)了地球主義者的態(tài)度。

來信

親愛的德·加里斯教授：

如果人工智能機(jī)器在定義上來說“超越了人類的控制范圍”，那么，為什么要認(rèn)真地思考是否要制造它們呢？讓我們更具體些，您所定義的人工智能機(jī)器“哪一部分應(yīng)該永遠(yuǎn)不要制造出來呢”。我們非常善于制造我們可以控制的強(qiáng)大工具。制造對人類有危險的人工智能機(jī)器會有什么好處呢？為什么不停止制造這些人工智能機(jī)器而僅僅去制造那些無自我意識的人工智能呢？只有人類和其他的一些動物具有自我意識。把一臺人工智能機(jī)器放在鏡子前面，如果它可以識別其映像是自身的話，毀掉它！

回答

這種評論顯然沒有考慮“硅權(quán)利”。許多宇宙主義者會認(rèn)為毀掉有意識的人工智能機(jī)器是一種謀殺行為。我從上述的評論可以看出這種評論沒有宇宙主義的同情，因為他問到，“制造對人類有危險的人工智能機(jī)器會有什么好處呢？”

好，考慮一下這樣的意見如何？——“去制造神一樣的宗教般的吸引力”，或者“去制造出地球上或者更遙遠(yuǎn)的星球上的下一個主導(dǎo)物種”，或者“去創(chuàng)造出一個和科學(xué)更加兼容的宗教來達(dá)到‘宇宙意識’的目的”?；蛘哌@樣，那就是“很多人渴望最終得到一個機(jī)會，來做一些‘大事’，來看到‘全景’”。

這樣的評論低估了宇宙主義學(xué)說的力量，它非常強(qiáng)大有力，可能會影響幾十億人的思想，會成為影響本世紀(jì)全球政治的力量，并且在某個時刻會間接地導(dǎo)致幾十億人的死亡。請不要簡單地反對它，它甚至可能成為人類和宇宙中其他幾萬億個高級物種所必須面臨的“宇宙主義者過渡”的問題，也許只有少數(shù)物種可以存活下來。宇宙主義可能比我們想象的要有影響得多。