來源：界面新聞 作者：林子人
沙納漢認(rèn)為有三類最不容易被自動(dòng)化的工作：結(jié)合了靈活動(dòng)手能力和常識感的工作、需要?jiǎng)?chuàng)造力的工作和需要人際交流的工作。
近年來，關(guān)于"人工智能即將取代人類工作"的討論不絕于耳。隨著語音助手系統(tǒng)、無人駕駛汽車等人工智能技術(shù)的日益成熟、BAT等中國科技巨頭對該領(lǐng)域不斷加碼投入，我們對人工智能未來的應(yīng)用場景也愈發(fā)清晰起來。
然而有一位業(yè)內(nèi)人士認(rèn)為，公眾和媒體對人工智能的理解依然不足，其中最大的謬誤是把科幻電影和現(xiàn)實(shí)生活混為一談。
默里.沙納漢（Murray Shanahan）是倫敦帝國理工學(xué)院認(rèn)知機(jī)器人學(xué)系教授，負(fù)責(zé)指導(dǎo)動(dòng)力學(xué)組的研究。他畢業(yè)于帝國理工學(xué)院、劍橋大學(xué)，從2006年其擔(dān)任帝國理工學(xué)院教授至今。沙納漢是奧斯卡獲獎(jiǎng)影片《機(jī)械姬》的科學(xué)顧問，研究跨越人工智能、機(jī)器人學(xué)、邏輯學(xué)、動(dòng)力系統(tǒng)、計(jì)算神經(jīng)科學(xué)和哲學(xué)思想等諸多領(lǐng)域。或許正是因?yàn)橛H身介入了科幻電影的制作，他對時(shí)下人工智能在普通大眾心目中的形象有更準(zhǔn)確的認(rèn)識：
"外行人，尤其是媒體，在討論人工智能時(shí)常常會犯兩個(gè)相互對立的錯(cuò)誤。第一個(gè)錯(cuò)誤就是產(chǎn)生'人工智能已經(jīng)存在或馬上到來'這一錯(cuò)覺。一些專門的人工智能技術(shù)確實(shí)不斷滲透到我們的日常生活中，但人類水平強(qiáng)人工智能擁有常識和創(chuàng)造力，遠(yuǎn)非現(xiàn)在的人工智能技術(shù)可比。 同一批懷疑者也可能會犯另一個(gè)錯(cuò)誤，就是認(rèn)為人類水平人工智能永遠(yuǎn)不會出現(xiàn)。"
為了糾正這些謬誤--更重要的是向公眾傳播人工智能這一即將在未來發(fā)揮巨大作用的領(lǐng)域相關(guān)知識--沙納漢撰寫了《技術(shù)奇點(diǎn)》一書。他在書中提出，顛覆性的人工智能將會有兩次浪潮，一次是一系列具有互補(bǔ)性通用認(rèn)知能力的專門人工智能技術(shù)逐漸開始改變?nèi)藗兊纳詈凸ぷ餍螒B(tài)，另一次則是人類水平人工智能，即超級智能的出現(xiàn)。"第一次浪潮很可能會發(fā)生：今天已經(jīng)出現(xiàn)了無人駕駛汽車和智能數(shù)字個(gè)人助理，從中可以清楚地感受到第一次浪潮的悸動(dòng)，它很可能在21世紀(jì)20年代全面展開。第二次浪潮距離我們更遙遠(yuǎn)，也很難準(zhǔn)確預(yù)測其出現(xiàn)的時(shí)間，但它肯定會產(chǎn)生更大的潛在影響。"
人工智能會搶走人類的工作機(jī)會嗎？沙納漢的答案是肯定的，但他不像尤瓦爾.赫拉利在《未來簡史》中展現(xiàn)得那般悲觀。事實(shí)上，他認(rèn)為我們現(xiàn)在還對未來人工智能對人類社會的潛在影響一無所知。但重要的是，我們需要為所有可能會出現(xiàn)的情況做好相應(yīng)的準(zhǔn)備。"如果人類水平人工智能注定會發(fā)生--也許在十年、二十年、三十年之后--那么重要的是我們要如何負(fù)責(zé)地去開發(fā)。"他說。
倫敦帝國理工學(xué)院認(rèn)知機(jī)器人學(xué)系教授默里.沙納漢（Murray Shanahan）。界面新聞：是什么促使你寫了《技術(shù)奇點(diǎn)》這本書？
默里.沙納漢：《技術(shù)奇點(diǎn)》是一本面向大眾讀者的書。讀者也許接受過一些科學(xué)教育，但并不精通科學(xué)、計(jì)算機(jī)之類的知識。所以這本書的目的是向大眾讀者傳播人工智能這一我認(rèn)為非常重要的領(lǐng)域的相關(guān)知識，它在當(dāng)下的發(fā)展程度，未來又將朝哪個(gè)方向發(fā)展。
這本書的標(biāo)題本可以是"人工智能的未來"，這可能是更好的一個(gè)標(biāo)題，因?yàn)?技術(shù)奇點(diǎn)"這個(gè)概念是有一點(diǎn)背景知識需要了解的。你也許知道雷.庫茲韋爾（Ray Kurzweil）的《奇點(diǎn)臨近》（The Singularity Is Near）這本書。在那本書里庫茲韋爾指出，由于指數(shù)級快速發(fā)展的科技力量，特別是人工智能和神經(jīng)科學(xué)，我們即將面臨劇烈的社會變動(dòng)，進(jìn)入史無前例的大變革時(shí)代，社會面貌將無從想象。這就是《技術(shù)奇點(diǎn)》想要表達(dá)的意思。
界面新聞：鑒于目前市面上存在的人工智能仍然較為原始，你在書中的很多描述看起來像是一種思維實(shí)驗(yàn)。你的論點(diǎn)的事實(shí)基礎(chǔ)在哪里，想象未來的困難之處是什么？
默里.沙納漢：你說得很對，這也是很重要的一點(diǎn)。我認(rèn)為公眾太容易混淆這一點(diǎn)了。特別是看了科幻電影和諸多媒體文章后，人們很容易將科幻和現(xiàn)實(shí)混為一談。在這本書里的確有很多思維實(shí)驗(yàn)，而且我對哲學(xué)問題非常感興趣，這些當(dāng)然是建立在我們目前已開發(fā)出來的能力的基礎(chǔ)之上的，然后我們根據(jù)這些來設(shè)想未來的諸多場景
我不認(rèn)為我們能預(yù)測未來將會怎樣，所以我想象了一系列未來可能出現(xiàn)的場景。然而有一件事是我們現(xiàn)在就確認(rèn)無疑的：我們不知道如何開發(fā)出人類水平人工智能，但這正是我們常常在科幻電影里看到的東西，也是令媒體感到興奮的東西。這也是《技術(shù)奇點(diǎn)》的論述前提。但說真的，我們不知道如何實(shí)現(xiàn)，也不知道我們何時(shí)能夠知道如何實(shí)現(xiàn)。
我認(rèn)為懷有不同目的的人對想象未來的困難之處有不同的理解。科幻小說家或電影制作人的主要目的是娛樂大眾，他們并不一定需要提供令人信服的答案，只要能夠給讀者或觀者提供感官刺激就好了。但如果你真的想要預(yù)測未來、如果你想通過看清未來幾年的趨勢來了解自己應(yīng)該投資那些公司，那你就要盡量避免投機(jī)猜測，你會希望自己的預(yù)測是有事實(shí)依據(jù)的。
另外這也取決于你在看多遠(yuǎn)的未來。想象五年以后的世界會容易很多，我們對五年以后的科技會變成怎樣還是有些值得說道的東西的。比如說，我認(rèn)為在五年的時(shí)間里會變得越來越重要的一項(xiàng)技術(shù)是無人汽車。要將在路上看到完全自動(dòng)駕駛的汽車也許還需要再等等，它們還沒有能夠像人類那樣處理復(fù)雜路況的能力，但如果面對的是比較標(biāo)準(zhǔn)統(tǒng)一的路況，比如說高速公路，我認(rèn)為我們會看到越來越多完全自動(dòng)駕駛的汽車和卡車。
另外一個(gè)領(lǐng)域是語音助手系統(tǒng)。當(dāng)然我們現(xiàn)在有了蘋果Siri和亞馬遜的Alexa。它們現(xiàn)在的表現(xiàn)已經(jīng)令人印象深刻了，但你還不能和它們進(jìn)行真正意義上的對話。如果你問這些語音助手系統(tǒng)，我需要買一些面包，它們是不知道你在說什么的。它們也許可以告訴你附近售賣食物的超市或商店的地址，但他們并不明白面包是一種你拿來吃的食物，因?yàn)樗鼈儽旧頉]有食物或饑餓的概念，而只是把一些單詞關(guān)聯(lián)在一起。那些系統(tǒng)對世界沒有自己的理解。所以如果你要求他們把一些截然不同的事情聯(lián)系在一起，比如說'今天晚上我要外出三個(gè)小時(shí)，我會餓的，所以需要現(xiàn)在吃點(diǎn)面包'，當(dāng)下的語音系統(tǒng)是缺乏這種常識的。但我認(rèn)為隨著時(shí)間推移，我們將看到語音系統(tǒng)越來越有常識感，我們越來越能夠與它們展開真實(shí)的對話。
界面新聞：所以你的書討論的時(shí)間段是什么呢？
默里.沙納漢：我的書里討論了好幾種不同的時(shí)間段。我實(shí)際上在書中談到了人工智能技術(shù)顛覆的兩次浪潮。我們可以充滿自信地說第一次浪潮是肯定會出現(xiàn)的，而且現(xiàn)在已經(jīng)開始了。在這個(gè)浪潮里我們能看到無人汽車以及當(dāng)今產(chǎn)業(yè)里人工智能與機(jī)器學(xué)習(xí)的各種應(yīng)用。這已經(jīng)在發(fā)生了，而且即將取得爆發(fā)式發(fā)展。但除此之外我還談到了第二次顛覆浪潮。那將取決于如果--注意這里有個(gè)大大的"如果"--我們真的能夠創(chuàng)造出人類水平人工智能，就像我們在電影里看到的那樣。當(dāng)人工智能強(qiáng)大如斯，真的很難語言未來世界會變成怎樣。
界面新聞：人工智能、大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈這些詞在當(dāng)下被熱議。你覺得它們將在何時(shí)徹底改變我們的生活？
默里.沙納漢：大數(shù)據(jù)對于人工智能來說非常重要。當(dāng)下人工智能取得成功以及人工智能的未來發(fā)展--特別是未來五年的商業(yè)化應(yīng)用--都是基于大數(shù)據(jù)的，因?yàn)槿斯ぶ悄苄枰揽繖C(jī)器學(xué)習(xí)用大量數(shù)據(jù)去訓(xùn)練。計(jì)算能力也或不可缺。你需要足夠多的計(jì)算能力去消化如此龐大的數(shù)據(jù)。所以大量數(shù)據(jù)促成了機(jī)器學(xué)習(xí)革命，這些東西都是環(huán)環(huán)相扣的。
就云計(jì)算來說，對計(jì)算能力的需求是和機(jī)器學(xué)習(xí)綁定在一起的。云計(jì)算意味著一家實(shí)驗(yàn)室或一家公司無需擁有所有的計(jì)算能力，只需要向別人購買就行了。你也許有一個(gè)需要機(jī)器學(xué)習(xí)的艱巨任務(wù)，需要很多計(jì)算機(jī)來分析數(shù)據(jù)，也許需要訓(xùn)練三天你的新系統(tǒng)，但你的公司不想在計(jì)算機(jī)設(shè)備上投入百萬美元，僅僅只是為了那三天的訓(xùn)練。你只想要購買三天的計(jì)算能力。這就是云計(jì)算的存在意義。這能夠讓一家創(chuàng)業(yè)公司在三天的時(shí)間里擁有價(jià)值千萬或一億的計(jì)算能力。
界面新聞：在書中你就人類水平人工智能甚至超人類水平人工智能對社會的影響做出了若干種可能性分析。你個(gè)人是如何看待科技進(jìn)步的？這是好事還是壞事，或者爭議過大無法下判斷？
默里.沙納漢：我非常希望這會是件好事。我認(rèn)為人工智能具有巨大的潛力，能夠幫助我們解決許多世界性難題。醫(yī)療是一個(gè)例子。我認(rèn)為人工智能變革醫(yī)療領(lǐng)域的潛力是巨大的。我們可以使用機(jī)器學(xué)習(xí)技術(shù)來為病人量身定制治療方案，這很有可能會實(shí)現(xiàn)。我們也能加快診斷速度。如今只有經(jīng)驗(yàn)豐富的專家經(jīng)過諸多診斷流程才能在掃描中發(fā)現(xiàn)腫瘤，但通過人工智能和機(jī)器學(xué)習(xí)我們能大大加快這一速度。在這個(gè)方面人類的受益將會是巨大的。
另外一個(gè)例子是谷歌數(shù)據(jù)中心正在使用DeepMind的技術(shù)來提高能源使用效率。他們已經(jīng)做到了將谷歌數(shù)據(jù)中心的能源消耗降低15%。這是很大的一個(gè)進(jìn)步。這對環(huán)境有好處。如果我們能夠廣泛應(yīng)用這個(gè)技術(shù)，這對全人類都是有好處的。這個(gè)技術(shù)就是利用機(jī)器學(xué)習(xí)來搞明白如何關(guān)閉排風(fēng)扇，什么時(shí)間開啟什么時(shí)間關(guān)閉。這是一套復(fù)雜的控制系統(tǒng)，能夠使用許多額外信息（比如天氣預(yù)報(bào)）來確保降溫措施盡可能地節(jié)省能源。
界面新聞：你認(rèn)為現(xiàn)在媒體對人工智能的宣傳言過其實(shí)，因?yàn)楝F(xiàn)在的人工智能的能力遠(yuǎn)低于預(yù)期。但一個(gè)無可爭辯的事實(shí)是人們已經(jīng)開始對自動(dòng)化感到焦慮了。我們在害怕什么呢，我們是否有理由感到害怕？
默里.沙納漢：人們現(xiàn)在都在談?wù)?顛覆"，這真是時(shí)下的一個(gè)熱詞。行業(yè)顛覆的犧牲者就是那些失去工作的人。有人失去工作和生計(jì)當(dāng)然是個(gè)悲劇，我認(rèn)為每一個(gè)在科學(xué)技術(shù)工程領(lǐng)域工作的人都應(yīng)該想一想自己在做的事可能會引起的道德后果。當(dāng)你創(chuàng)造了一個(gè)技術(shù)，卻因此造成了大量人員失業(yè)，這是非常悲哀的，所以我們當(dāng)然應(yīng)該慎重考慮。
我們應(yīng)該如何解決這個(gè)問題？現(xiàn)在很難知曉，因?yàn)榻?jīng)濟(jì)發(fā)展的步伐不會停下。如果你能夠通過顛覆行業(yè)來賺錢，肯定會有人去做的。現(xiàn)在我們很難去講具體對策是什么，但科學(xué)家們是否就應(yīng)該放棄研究了呢？我的答案是否定的。我認(rèn)為我們都應(yīng)該去盡力推動(dòng)人工智能的發(fā)展，但要確保我們研發(fā)出來的技術(shù)能夠令人類受益。對我來說，我偏好那些優(yōu)化能源利用和促進(jìn)醫(yī)療發(fā)展的技術(shù)應(yīng)用。
界面新聞：你是否認(rèn)為美國和中國將引領(lǐng)人工智能的發(fā)展？
默里.沙納漢：我認(rèn)為美國和中國已經(jīng)在引領(lǐng)人工智能的發(fā)展了。美國從一開始就在人工智能領(lǐng)域獨(dú)領(lǐng)風(fēng)騷。但毫無疑問，中國正在迎頭趕上。這里對人工智能的投入非常大，很多中國作者在相關(guān)刊物上發(fā)表論文。
界面新聞：你提出人工智能技術(shù)將會出現(xiàn)兩次浪潮，但很顯然的是即使是在第一次浪潮里人類社會就會經(jīng)歷巨大的變革了。很多研究指出，許多工作將被自動(dòng)化，而這種變革的深度和廣度將會是前所未有的。你認(rèn)為未來的職場將會變成怎樣？
默里.沙納漢：雖然我們現(xiàn)在還無法回答，但我們應(yīng)該為那些我們能夠想象得到的場景做好準(zhǔn)備。我們可以確定的是人工智能很快就將取代很多工作，通常這是人工智能和其他機(jī)器的結(jié)合。這將很快對職場帶來很大的沖擊。想想未來的社會將如何應(yīng)對這一情況吧。
我們會有一些不同的發(fā)展方向。其中一種方向是類似工業(yè)革命，許許多多我們現(xiàn)在無法想象的新工作將被創(chuàng)造出來。比如說，未來可能會有需要人類深入運(yùn)用人工智能的工作。也許一位知識工作者將在人工智能助手的幫助下更高效地工作。這樣就不是人類被人工智能取代了，而是人工智能助手讓人類專注于更有創(chuàng)造力和創(chuàng)新性的工作。我們就不會在短時(shí)間內(nèi)被人工智能取代。這是看待問題的其中一種方式：許許多多的新工作機(jī)會將出現(xiàn)，只不過我們現(xiàn)在仍然無法想象。
另外一種情況是，創(chuàng)造出來的新工作機(jī)會不足以彌補(bǔ)我們失去的工作機(jī)會。在這種情況下，我們就會面臨更多困難。也許我們就應(yīng)該考慮社會要如何應(yīng)對工作崗位不足。所以現(xiàn)在有很多人討論全民基本收入（universal basic income），另外一個(gè)概念是全民基本供養(yǎng)（universal basic provision），意思是說能源、食物、公共交通等一切生活所需將全部免費(fèi)。當(dāng)然這都不會是五年內(nèi)發(fā)生的事，也許在十年內(nèi)我們真的需要更嚴(yán)肅地討論諸如此類的問題。
界面新聞：哪一種情況更有可能發(fā)生呢？
默里.沙納漢：這一點(diǎn)上我改變過想法，這取決于我在和誰交談。所以我保留之后改變想法的權(quán)利。當(dāng)下我對人工智能是否會顛覆社會秩序保持謹(jǐn)慎樂觀的態(tài)度。我認(rèn)為這不太會發(fā)生。當(dāng)然在西方和在中國事情的發(fā)展可能會不太一樣。這很難講。我認(rèn)為將會有足夠多的新工作機(jī)會出現(xiàn)，人類社會不會有事的。
界面新聞：所以你是反對尤瓦爾.赫拉利在《未來簡史》中做出的判斷了？他認(rèn)為人工智能將奪取人類的工作，99%的人將墮入"無用階級"。
默里.沙納漢：他的確對未來有種更悲觀的態(tài)度，他也許是對的。人們，特別是媒體，喜歡有人能夠堅(jiān)定不移地給出確切答案。這就像你投硬幣，有兩個(gè)人站在面前。有一個(gè)人認(rèn)為將會是硬幣的正面，另一個(gè)認(rèn)為是反面。但實(shí)際上沒有人真的知道答案。你投了硬幣，最后是正面朝上，然后其中一個(gè)人就說，"看吧我早就說過！我知道我是對的！"我認(rèn)為我們就在一個(gè)類似的情形中。媒體不喜歡聽到別人說我們不知道答案，但我的確認(rèn)為我們就是不知道。當(dāng)然你可以去和專家討論，經(jīng)濟(jì)學(xué)家也許會有更好的論據(jù)來支持觀點(diǎn)。盡管如此，我認(rèn)為我們面臨著太多不確定性。我不像赫拉利那樣悲觀，但我也許是錯(cuò)的。
很多人擔(dān)心社會不公。人工智能這樣的新技術(shù)將會帶來巨大的經(jīng)濟(jì)增長，但問題是誰將從中獲益？創(chuàng)造出來的多余財(cái)富是能夠普惠大眾還是集中在少數(shù)人手里？我不認(rèn)為是前者。受益的將會是科技富豪們，但我不認(rèn)為他們會認(rèn)為這是一種光明的前景，他們也不希望社會貧富差距過大。所以現(xiàn)在在硅谷有很多人在討論全民基本收入，這可是實(shí)實(shí)在在地在談把自己賺到的錢捐出去啊，不是嗎？因?yàn)樗麄儾幌肟吹轿磥砩鐣犬?dāng)下社會更加不公平。
界面新聞：所以哪些工作將更不容易被取代呢？
默里.沙納漢：我常常以水管工為例，這樣的工作很難被自動(dòng)化取代真的令人感到有些驚訝。事實(shí)上，如果你家里漏水，水管工需要上門來查看找到問題根源。他們每次工作都要去從未去過的家庭，拆除一些東西，找到有問題的水管。這需要掌握一些常識--你需要了解家庭中使用的物件來找到漏水的地方在哪里，如何拆除問題水管。要做到這些，你既需要靈巧的手工活，也需要處理新狀況的能力，還需要掌握常識，這一些都讓水管工成為最不容易被自動(dòng)化的工作之一。
另外一方面，如果你能夠從頭改造環(huán)境，讓它易于打理，這就是另外一回事了。如果你能夠從頭設(shè)計(jì)并建造房屋，讓每一座房子里的水管布局都完全相同，讓某一種特定形狀的機(jī)器人能夠接觸到水管，那人工智能就會有用武之地。農(nóng)業(yè)也是同樣的道理，如果你有很大的一片地，所有的小麥都在規(guī)矩平整的地里生長，那么收割小麥也可以被自動(dòng)化。人們就是這樣改造工廠的。幾十年來汽車制造都是流水作業(yè)。但棘手的是那些無法精確設(shè)計(jì)的、機(jī)器和電腦還無法應(yīng)對的地方。
另外一種類型當(dāng)然就是那些需要?jiǎng)?chuàng)造力的工作。我認(rèn)為我們需要很長一段時(shí)間才能讓人工智能取代建筑師或室內(nèi)設(shè)計(jì)師的工作，這些領(lǐng)域需要人類的智慧。當(dāng)然，我們可以想象創(chuàng)造出人工智能室內(nèi)設(shè)計(jì)師，但它們的設(shè)計(jì)會比較千篇一律。如果你想要一些獨(dú)特的、原創(chuàng)的、有趣的設(shè)計(jì)，在很長的一段時(shí)間里我們?nèi)匀恍枰祟愒O(shè)計(jì)師。
還有一種類型是需要人際交流的工作。比如說醫(yī)療。很多病人和老人不想被機(jī)器人照顧。當(dāng)然每個(gè)人或每個(gè)社會情況會不同，比如說日本人似乎就更能接受機(jī)器人，但在英國老人們對機(jī)器人護(hù)工會非常抗拒。在很多情況下我們希望得到人的陪伴，如果你是一個(gè)老人，你更希望跟人說話。
界面新聞：我們對未來人工智能的討論實(shí)際上也是對人類價(jià)值觀和道德觀念的重新思考。如果我們想在今后充分利用人工智能技術(shù)，有哪些問題是迫切需要解決的？
默里.沙納漢：我認(rèn)為最迫切需要解決的道德問題是未來就業(yè)率的問題。那些對未來有更多洞察的專家應(yīng)該就此展開更多討論，在政治領(lǐng)域也應(yīng)該有更多人開始探討如果大規(guī)模的技術(shù)失業(yè)出現(xiàn)了應(yīng)該如何應(yīng)對。這絕對是一個(gè)重大問題。我還認(rèn)為如果你所在的公司有計(jì)劃顛覆行業(yè)，應(yīng)該想一想那些將為此失業(yè)的人，而不是不計(jì)后果地盲目向前。"負(fù)責(zé)地顛覆"，這是我的信條。
另外是關(guān)于隱私的問題。在大數(shù)據(jù)時(shí)代，企業(yè)通常在獲取消費(fèi)者大量數(shù)據(jù)的同時(shí)很少取得消費(fèi)者的同意。我們所說的"同意"基本上就是沒有仔細(xì)閱讀條款就點(diǎn)擊"同意"按鈕。你向企業(yè)交出了大量信息，但與此同時(shí)你也犧牲了許多隱私。就某種程度而言，你幾乎不可能不那么做，因?yàn)槿绻闶且粋€(gè)不玩Facebook的年輕人，基本意味著你脫離了美國和歐洲社會，所以沒有哪個(gè)年輕人會仔細(xì)去思考那些條款意味著什么并拒絕點(diǎn)擊"同意"。Facebook只是其中一個(gè)例子，還有很多其他公司都在做同樣的事。
這樣你就交出了大量的數(shù)據(jù)。當(dāng)大量數(shù)據(jù)和機(jī)器學(xué)習(xí)結(jié)合起來，就能將個(gè)人分析做到細(xì)致入微的程度。我認(rèn)為個(gè)人數(shù)據(jù)應(yīng)該被妥善運(yùn)用，謹(jǐn)防被濫用或操縱。當(dāng)然，企業(yè)并不只是想要濫用數(shù)據(jù)，他們想做的是操縱你去點(diǎn)擊某些網(wǎng)站鏈接，購買某些產(chǎn)品。好吧，這樣聽起來好像沒什么害處，你可以忽略廣告，但如果他們能夠操縱你的思考方式，這就更加危險(xiǎn)了。
界面新聞：那么，你本人為了這個(gè)充滿不確定性的未來做了什么準(zhǔn)備呢？
默里.沙納漢：我做了什么？我寫了這本書呀！我之所以會寫《技術(shù)奇點(diǎn)》，很大的一個(gè)原因是想要教育公眾，傳播這些觀點(diǎn)，特別是厘清即將對我們的生活帶來巨大改變的專門人工智能技術(shù)和我們在科幻電影里看到的人工智能技術(shù)之間的差別。單單是說明這一點(diǎn)就非常重要了。人類水平的人工智能還不存在，但我發(fā)現(xiàn)很多人認(rèn)為它已經(jīng)在我們的生活中了，他們高估了我們?nèi)粘Ｉ钪惺褂玫暮芏鄸|西，而這種想法是危險(xiǎn)的。
界面新聞：你是否認(rèn)為我們應(yīng)該滿足于專門人工智能技術(shù)帶來的便利，不去開發(fā)人類水平人工智能技術(shù)？
默里.沙納漢：如果我是世界之王，我的面前有一個(gè)按鈕，那個(gè)按鈕上寫著"阻止世界上一切開發(fā)人類水平人工智能的行為"，我會不會按呢？我也許會，因?yàn)槲艺J(rèn)為那條道路上充滿了不確定性。在很多科幻電影里有那種人類水平人工智能，你就好像和真正的人那樣和計(jì)算機(jī)展開真實(shí)的對話。它也許會是一種非常實(shí)用的技術(shù)，在各個(gè)方面幫助到我們。這是我期待的發(fā)展方向，如果它足夠強(qiáng)大，是能夠幫助人類解決我們之前討論過的那些問題的。
但我們真的不知道前景會是怎樣的。如果我們開發(fā)出了人類水平人工智能，我們真的不知道會發(fā)生什么，而這種不確定性可能會導(dǎo)致我們想要按下暫停鍵。但我們也要知道這是完全不現(xiàn)實(shí)的。在英國有一個(gè)關(guān)于克努特國王和海潮（King Canute and the waves）的故事，講的是很多個(gè)世紀(jì)以前有一位叫做克努特的國王，他想要向臣民說明雖然他是國王，享有天賦神權(quán)，他也不是全知全能的。他將王座面向大海，向海潮下令停止前進(jìn)，但海潮當(dāng)然還是來到了海岸上。我認(rèn)為試圖阻止人工智能的發(fā)展就好像克努特國王試圖阻止注定會發(fā)生的事。如果人類水平人工智能注定會發(fā)生--也許在十年、二十年、三十年之后--那么重要的是我們要如何負(fù)責(zé)地去開發(fā)。
