李開復(fù)：人類最重要的器官，不是大腦，而是內(nèi)心

從層出不窮的科幻電影，到阿爾法圍棋（AlphaGo），再到產(chǎn)業(yè)機(jī)器工人，人工智能（AI）在我們時(shí)代的強(qiáng)勁出現(xiàn)，帶來了知識(shí)、技能和生存的恐慌。你對(duì)科技有好奇，但是不是也感到了一種緊張？

書評(píng)君在“我有嘉賓”第2期中所征集到的問題，就彌漫著這樣的恐慌與緊張。

現(xiàn)在，第2期的問答將如約與你相遇。在這一期，書評(píng)君請(qǐng)來的嘉賓是李開復(fù)先生。在他看來，人工智能工具正在改變著世界，但科幻電影誤導(dǎo)了人們對(duì)人工智能的理解，它們沒有情感也沒有自我認(rèn)知，所有程序都是被編制和控制的。阿爾法在圍棋中勝利了，但它并未因此感到快樂。只不過，像任何技術(shù)一樣，人工智能被怎樣使用同樣拷問著使用者的用意。

這些征集到的問題中，也有提問李開復(fù)先生曾被診斷患上淋巴癌的經(jīng)歷對(duì)其影響、普通人的讀書境遇與選擇。他用自己的經(jīng)歷提出建議，比如“少讀成功學(xué)的書”、“少讀翻譯劣質(zhì)的書”，但于他而言，所有話題都可歸至近些年持續(xù)關(guān)注的人工智能，它不可怕，因?yàn)椤叭祟愖钪匾钠鞴?，不是大腦，而是內(nèi)心?！遍喿x的意義大概也在于此。

人工智能與我們時(shí)代的恐慌“沒有一種技術(shù)可以告訴我們?nèi)绾螌?shí)現(xiàn)超人工智能”

提問（鄭欣）：昨日剛剛聽完您在哥倫比亞大學(xué)的畢業(yè)典禮演講。你提到給畢業(yè)生未來職業(yè)選擇和規(guī)劃的建議。對(duì)于專業(yè)并非工程類的語(yǔ)言類學(xué)生，我很想知道應(yīng)該如何做才能不被AI替代。

李開復(fù)：不必特別為你的專業(yè)擔(dān)心，因?yàn)榇蟛糠值膶I(yè)在人工智能時(shí)代，都有類似的問題。

我的建議是：如果你決定深耕一個(gè)領(lǐng)域，就要成為該領(lǐng)域的頂尖專家。任何領(lǐng)域的頂尖專家都不會(huì)被AI取代；盡量讓自己能做戰(zhàn)略性的、跨領(lǐng)域的工作或行業(yè)。比如說學(xué)外語(yǔ)不能只當(dāng)做語(yǔ)言來學(xué)，要學(xué)會(huì)多國(guó)的不同文化和思維方式，并爭(zhēng)取能用到這類知識(shí)的工作。

如果你有創(chuàng)造性，無(wú)論是理工還是人文，那都是不會(huì)被AI取代的工作。比如說文科生寫詩(shī)、小說、劇本等都不會(huì)被AI取代；一旦找到一個(gè)工作，一定要掌握該領(lǐng)域的AI工具，善用這個(gè)工具，和它一起成長(zhǎng)考慮服務(wù)業(yè)的各種機(jī)會(huì)，讓自己更善于與人打交道，尋找基于人際溝通的行業(yè)。比如說：用你的外語(yǔ)能力做一個(gè)生動(dòng)有趣，讓人真心喜歡的老師或者導(dǎo)游。

1956年的達(dá)特茅斯會(huì)議（Dartmouth Conference）常常被公認(rèn)為是人工智能的起源。2006年，會(huì)議五十年后，當(dāng)事人重聚達(dá)特茅斯。

提問（陳欣玉）：如果人類要保證不受威脅，什么領(lǐng)域是人工智能絕對(duì)不允許涉足的？

李開復(fù)：任何一種技術(shù)，都是“水能載舟，亦能覆舟”，所以過早或過分擔(dān)心未來的威脅，而扼殺或“絕對(duì)不允許”某種科技，肯定是過激了。比如說：為了保證不會(huì)有劫機(jī)威脅，我們是否就不允許發(fā)明制造飛機(jī)了？

當(dāng)然，任何新的科技都需要關(guān)注，并且用法律和行規(guī)來降低嚴(yán)重問題。我認(rèn)為值得關(guān)注的問題包括：全自動(dòng)殺人武器的開發(fā)、人工智能使用的隱私數(shù)據(jù)的合法性、數(shù)據(jù)和人工智能很強(qiáng)大的公司如何不傷害用戶隱私和安全、自我運(yùn)作的軟硬件都應(yīng)該有人工手動(dòng)關(guān)機(jī)功能、人工智能系統(tǒng)安全和防止黑客功能、軟硬件植入人體的潛在傷害和影響。

《人工智能》

作者：李開復(fù) 王詠剛

版本：文化發(fā)展出版社 2017年5月

“我們無(wú)需擔(dān)憂和懼怕人工智能時(shí)代的到來，我們所要做的，應(yīng)當(dāng)是盡早認(rèn)清AI與人類的關(guān)系，了解變革的規(guī)律，更好地?fù)肀聲r(shí)代的到來?！?/p>

提問（辛穎）：人工智能是否會(huì)等同于或超越人類本身的智能？

李開復(fù)（由王詠剛代復(fù)）：超人工智能誕生并威脅人類這件事發(fā)生的概率是非常小的。至少?gòu)默F(xiàn)在的所有人工智能技術(shù)看來，沒有一種技術(shù)可以告訴我們?nèi)绾螌?shí)現(xiàn)超人工智能。也就是說，我們沒法在邏輯上預(yù)測(cè)，今天的人工智能技術(shù)必然會(huì)在未來發(fā)展為超人工智能。

其實(shí)，我們現(xiàn)在做的只是在制造工具。我們所面對(duì)的，只不過是一系列工程設(shè)計(jì)上的問題。我們必須確保我們?cè)O(shè)計(jì)制造的產(chǎn)品和服務(wù)符合我們的愿望和預(yù)期。這件事與橋梁工程師們使用一整套質(zhì)量保障方案來確保他們建造的橋梁不會(huì)坍塌并沒有什么兩樣。

我們有許多工程學(xué)上的原則，來指導(dǎo)我們?nèi)绾螠y(cè)試一個(gè)系統(tǒng)，什么樣的系統(tǒng)是合格的，什么樣的系統(tǒng)是足夠安全的，等等。在人工智能領(lǐng)域，我們同樣需要這樣的技術(shù)，因?yàn)槿斯ぶ悄苁謴?qiáng)大，具有潛在的危險(xiǎn)性。但這并不是因?yàn)橹悄軝C(jī)器會(huì)像人類一樣思考。只是因?yàn)樗鼈兪謴?qiáng)大，我們必須小心使用它們。

科幻電影的誤導(dǎo)“人工智能工具沒有感情”

提問（辛穎）：人工智能的趨勢(shì)化在使人類獲得舒適的同時(shí)，是否會(huì)存在一些未知的風(fēng)險(xiǎn)？如果存在風(fēng)險(xiǎn)，那么以人類目前的能力，“可控”嗎？

印度科幻電影《機(jī)器人之戀》中的AI對(duì)女主人公產(chǎn)生了感情

李開復(fù)：很多科幻電影和一些過激的預(yù)測(cè)影響了很多讀者?，F(xiàn)在的人工智能只是工具，一次只能在一個(gè)領(lǐng)域工作。人工智能的優(yōu)化目標(biāo)函數(shù)是由人來擬定的。人工智能工具沒有自我意識(shí)也沒有感情。人可以決定隨時(shí)關(guān)掉人工智能工具。比如說，AlphaGo就只會(huì)下圍棋，但是下棋并沒有感到樂趣，贏了也不會(huì)開心。比賽結(jié)束，公司決定永遠(yuǎn)“封棋”就封了。

這樣的工具用在很多領(lǐng)域，會(huì)產(chǎn)生很大的商業(yè)價(jià)值，也會(huì)帶來各種必然的問題，比如說貧富差距、大量失業(yè)、整改教育。我認(rèn)為我們應(yīng)該更多關(guān)懷這些必然的問題，而不是花太多時(shí)間去擔(dān)心那些“未知”的風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)，也許100年甚至更久也不會(huì)發(fā)生，讓技術(shù)專家來討論處理更合適。

提問（Fay Hu）：我是一名醫(yī)生，感興趣的是人工智能在醫(yī)療方面的應(yīng)用。請(qǐng)問人工智能的發(fā)展瓶頸會(huì)在哪？

李開復(fù)：人工智能應(yīng)該是很適合診斷方面，因?yàn)槭怯袕?fù)雜空間，有數(shù)字導(dǎo)向，和客觀標(biāo)注的領(lǐng)域。（就是說：可以輸入多維度的各種病人歷史信息，測(cè)驗(yàn)信息，根據(jù)類似的人過去的病情和最后診斷治療結(jié)果作為導(dǎo)向）

但是，很大的瓶頸是數(shù)據(jù)的隱私問題，還有醫(yī)院之間的信息未打通，因此很難匯集大量數(shù)據(jù)來訓(xùn)練人工智能的機(jī)器學(xué)習(xí)。比如說：人臉識(shí)別庫(kù)是打通的，因此，人工智能很快就遠(yuǎn)超人類。而B超、X光、核磁共振、斷層掃描的資料是現(xiàn)階段無(wú)法打通的，所以會(huì)形成瓶頸。

另外，就是風(fēng)險(xiǎn)承擔(dān)方面的問題（診斷錯(cuò)誤誰(shuí)負(fù)責(zé)？），還有病人是否能接受“機(jī)器人醫(yī)生”的問題。

我認(rèn)為最快能做出的系統(tǒng)是醫(yī)生助理診斷系統(tǒng)，這樣決定還是醫(yī)生的。再往下，圖片方面的診斷輔助也會(huì)有很大的進(jìn)步。還有，任何大數(shù)據(jù)量的工作（比如說基因排序、精準(zhǔn)醫(yī)療），還有和圖片相關(guān)的工作（比如說上面提到的各種影片識(shí)別、病理切片、皮膚科診斷等）遲早都會(huì)能解決上述的瓶頸，行程很精確的系統(tǒng)。

也許20-30年以后，機(jī)器診斷會(huì)全面超越醫(yī)生，而醫(yī)生的角色會(huì)轉(zhuǎn)換成為“人工智能診斷機(jī)和病人之間的界面”。醫(yī)生會(huì)繼續(xù)和病人對(duì)話，問病人問題。而信息的整合，最后的診斷，可能主要是機(jī)器來推薦或直接做。醫(yī)生會(huì)負(fù)責(zé)和病人的溝通，對(duì)病人的聆聽、關(guān)懷、鼓勵(lì)等。未來醫(yī)生需要情商溝通方面的能力會(huì)越來越重要。

人類最重要的器官“不是大腦，而是內(nèi)心”

提問（李曉峰）：李老師，您好！人總是在經(jīng)歷事情的過程中完成自我的升華。我特別想聆聽的問題是，在經(jīng)歷了那場(chǎng)眾所周知的大病（注：2013年，李開復(fù)被診斷患上淋巴癌第四期）之后，您的世界觀，人生觀和價(jià)值觀有了什么變化？這段經(jīng)歷對(duì)您理解人工智能的現(xiàn)在和未來又產(chǎn)生了什么影響？

李開復(fù)：4年前，我被診斷患上淋巴癌第四期，當(dāng)時(shí)我面對(duì)的無(wú)情事實(shí)：我的生命可能就只剩下短短幾個(gè)月。

在那段前路未卜的時(shí)間，我對(duì)生命的意義深思良多。我意識(shí)到我所有的成就，包括在等待30多年后終于來到的人工智能時(shí)代，對(duì)我來說其實(shí)毫無(wú)意義。我意識(shí)到我過去所追求的科技、產(chǎn)品、投資、事業(yè)，我重視各種事情的優(yōu)先級(jí)完全本末倒置。我忽視了我的家庭，我父親去世了，我母親已幾乎不認(rèn)得我，我的孩子們也不知不覺都長(zhǎng)大了。

在治療期間，我讀了布朗妮·維爾（Bronnie Ware）的一本書，書中記錄了臨終病人一生中最后悔的事情。作者提到，沒有一個(gè)人會(huì)為當(dāng)年不夠認(rèn)真工作、不夠努力加班、或財(cái)產(chǎn)積攢不足而后悔。人們臨終時(shí)最最盼望的，是希望能再有機(jī)會(huì)花更多時(shí)間與自己所愛的人在一起。

回到人工智能的話題，愛讓人類有別于人工智能。不要相信科幻電影里描繪的人工智能的愛（或感情），我可以負(fù)責(zé)任地告訴你們，人工智能不會(huì)有愛，它們甚至沒有感情和自我意識(shí)。AlphaGo雖然能擊敗世界棋手冠軍，但是它體驗(yàn)不到手談的樂趣，勝利不會(huì)為它帶來愉悅感，也不會(huì)讓它激動(dòng)到產(chǎn)生想要擁抱一位他愛的人的渴望。

人類已制造出許多以任務(wù)為導(dǎo)向的人工智能，在每個(gè)具體任務(wù)上它們的表現(xiàn)遠(yuǎn)超人腦，這正是我37年前的夢(mèng)想。作為一個(gè)計(jì)算機(jī)科學(xué)家，我為我們所取得的科技進(jìn)步成就而自豪。但我現(xiàn)在覺得，自己也許追逐錯(cuò)了方向——人類最重要的器官，不是大腦，而是內(nèi)心。

《做最好的自己》

作者：李開復(fù)

版本：人民出版社 2005年9月

“成功就是做最好的自己。”

提問（梁慧杰）：您最近在閱讀什么書？對(duì)于工作和閱讀您是如何安排的？

李開復(fù)：我最近在閱讀的書包括：《未來簡(jiǎn)史》，《北京折疊》，三本英文書：Abundance: The Future Is Better Than You Think（中文名是《富足》，賈擁民譯），Option B: Build resilience in the face of adversity（Facebook COO桑德伯格的新書），Thank you for being late（有繁體中譯本《謝謝你遲到了：一個(gè)樂觀主義者在加速時(shí)代的繁榮指引》）。

關(guān)于讀書，我想給大家六個(gè)建議，三做三不做，非常簡(jiǎn)單的建議，應(yīng)該適合每個(gè)人。

第一個(gè)建議，多讀不同意見的書。我覺得在東方長(zhǎng)大的小朋友們常常被灌輸一種思想，認(rèn)為書上寫的就是對(duì)的，讀了書要把它背下來。我覺得這樣并不好，其實(shí)每一件事情都有很多面，有很多不同的觀點(diǎn)、不同的意見。我建議大家不要把書當(dāng)圣經(jīng)，多去讀一些不同觀點(diǎn)的書，而不是只讀那些你認(rèn)為是你同意的，符合你觀點(diǎn)的書，嘗試讀一些跟你的觀點(diǎn)有沖突的書。如果你能多方面來看待同一件事情，也可以培養(yǎng)批判式思維。另一方面，就算你堅(jiān)持你原來的想法，你也可以了解別人是怎么想的，當(dāng)你和對(duì)方辯論或者持有不同意見的時(shí)候也許可以用到。

第二個(gè)建議，多讀歷史。走了這么長(zhǎng)的路，看了這么多的事情，讀了這么多的書，我發(fā)現(xiàn)歷史總是在重復(fù)，人類還是不斷在犯過去犯過的錯(cuò)誤。我想如果我們每個(gè)人都多讀歷史的話，也許我們可以多了解人性、可以少走一些彎路。

第三個(gè)建議，是要中西融會(huì)貫通。雖然中國(guó)古老的思想、文學(xué)都非常精湛，可以學(xué)到很多東西，但是我在哥倫比亞大學(xué)讀的那幾百本書，我覺得對(duì)我還是有非常深刻的啟發(fā)。所以有時(shí)間的話，我覺得還是平衡一下，讀一些東方的書，也讀一些你想讀的西方的書，比如英美哲學(xué)家的書、莎士比亞的書等等，東西方的思想能夠平衡吸取。

第四個(gè)建議，不要讀翻譯劣質(zhì)的書。當(dāng)你讀西方的書時(shí)盡量讀原文書，因?yàn)榉g的過程會(huì)流失很多有價(jià)值的東西。所以英文好的同學(xué)，可以讀原文書；英文不錯(cuò)的同學(xué)，可以先把英文學(xué)好，然后讀原文書；實(shí)在不想學(xué)英文的同學(xué)們，那讀中文書也可以，但是一定要找好的翻譯來源。我發(fā)現(xiàn)比如《喬布斯傳》，我看了兩個(gè)中文版，翻譯水平差異是巨大的。

第五個(gè)建議，少讀純理論的書。有些純理論的書，不是在過去實(shí)例的驗(yàn)證之下寫成的，所以我會(huì)更建議大家去讀那些有真實(shí)的事例穿插的書，而不是純理論化的一本書。

最后一個(gè)建議，少讀成功學(xué)的書。每次走到書店看到我的書被放到成功學(xué)，我就想低著頭走過去，因?yàn)椋矣X得大部分成功學(xué)的書，其實(shí)都是一些沒有實(shí)干過的人，把一些理論攢起來，讓你認(rèn)為自己看完也可以成功的書，而且它教導(dǎo)的可能是“你只要模仿誰(shuí)誰(shuí)誰(shuí)就可以成功”。

但是實(shí)際上每一個(gè)人是不同的，每一個(gè)人成功的模式也是不同的。而且那些寫成功學(xué)的書的人，他們自己成功了嗎？他們自己有經(jīng)驗(yàn)嗎？他們分享的是攢來的經(jīng)驗(yàn)還是自己的經(jīng)歷總結(jié)呢？所以我建議少讀成功學(xué)的書。但是如果你很想學(xué)習(xí)一些成功的典范，那么我會(huì)推薦多看自傳?？醋詡鞯臅r(shí)候，也要看作者本人自己寫的自傳，而不是授權(quán)別人寫的，因?yàn)閯e人寫的也是攢出來的。最后，即使看作者本人的自傳，也不要盲目地去學(xué)習(xí)對(duì)方的一切，因?yàn)槊總€(gè)人是不一樣的，學(xué)習(xí)那些適合你的。