[編者按]8月25日至27日，由太和智庫(kù)發(fā)起主辦，每日經(jīng)濟(jì)新聞戰(zhàn)略合作的首屆“太和文明論壇”在北京舉行。在人工智能分論壇的討論中，多位專(zhuān)家、學(xué)者和從業(yè)人員均認(rèn)為，隨著人工智能（AI）的快速發(fā)展，基于人工智能的“萬(wàn)物互聯(lián)”時(shí)代正在到來(lái)，包括無(wú)人駕駛、智能家居、自動(dòng)診療、智慧城市等。人工智能的應(yīng)用似乎呈現(xiàn)一片欣欣向榮的景象。
然而，人工智能勢(shì)不可擋的發(fā)展趨勢(shì)，也給人們帶來(lái)了一連串隱憂(yōu)，人工智能未來(lái)會(huì)無(wú)所不能？人工智能是否會(huì)挑戰(zhàn)人類(lèi)倫理，沖擊社會(huì)制度，威脅人類(lèi)生存甚至取代人類(lèi)？人類(lèi)到底該何去何從？針對(duì)上述疑問(wèn)，《每日經(jīng)濟(jì)新聞》記者從上述與會(huì)人士的發(fā)言中總結(jié)出一些精彩片段，并采訪(fǎng)了部分業(yè)內(nèi)人士，為讀者打開(kāi)AI的一扇窗。
每經(jīng)記者 張斯 實(shí)習(xí)記者 劉春山 每經(jīng)編輯 盧祥勇
在科幻影片里面，人工智能機(jī)器人不止一次地實(shí)現(xiàn)了自我意識(shí)覺(jué)醒。以AI為主題的美劇《西部世界》中，男主角雖然知道心愛(ài)之人是機(jī)器人，依然義無(wú)反顧的愛(ài)上了它，而機(jī)器人也找尋到了“在這個(gè)世界唯一的真實(shí)的東西”——自由意識(shí)。
在關(guān)于人工智能的一系列憂(yōu)慮中，倫理問(wèn)題是最主要的一個(gè)。在首屆“太和文明論壇”舉行期間，多位行業(yè)人士表示，從目前技術(shù)來(lái)看，人工智能尚未面臨失控的局面，人工智能所呈現(xiàn)出來(lái)的感情是虛假的。科學(xué)家還沒(méi)有研究清晰人類(lèi)自我意識(shí)為何物，實(shí)現(xiàn)機(jī)器人真正的自我意識(shí)很遙遠(yuǎn)也很渺茫。
帶來(lái)新的情感和隱私問(wèn)題
新技術(shù)的出現(xiàn)一次次實(shí)現(xiàn)人類(lèi)能力的外延，但是歷史上從未有某一技術(shù)直接和人類(lèi)大腦進(jìn)行競(jìng)爭(zhēng)。
科學(xué)家把“強(qiáng)人工智能”定義為出現(xiàn)真正有自主意識(shí)、且可確證其主體資格的“智能”，而不是AlphaGo這樣僅僅比機(jī)械計(jì)算發(fā)展了更多層次的推理能力和學(xué)習(xí)能力的程序。與強(qiáng)人工智能所對(duì)應(yīng)的，是遵循人類(lèi)計(jì)算機(jī)算法的弱人工智能。
在微軟亞太研發(fā)集團(tuán)副總裁商容看來(lái)，人工智能需要有理性，也需要有感性，涉及感性就會(huì)涉及到倫理和隱私等問(wèn)題。而聯(lián)想創(chuàng)投董事總經(jīng)理王光熙則認(rèn)為，未來(lái)人工智能或許具備情感，這就牽扯到未來(lái)人類(lèi)智慧和機(jī)器智能之間的界限在哪，或者是界限會(huì)被抹去。
當(dāng)人工智能具備了情感，就會(huì)與人類(lèi)出現(xiàn)戀人、親人等關(guān)系，這將拷問(wèn)現(xiàn)代倫理規(guī)范。信幀機(jī)器人創(chuàng)始人賀江濤認(rèn)為，在實(shí)際工作當(dāng)中，曾遇到人類(lèi)對(duì)機(jī)器人產(chǎn)生感情的事件?！肮酒煜碌囊豢?yuàn)蕵?lè)機(jī)器人，其視頻在網(wǎng)絡(luò)上有億次多的點(diǎn)擊量，視頻中這個(gè)機(jī)器人的頭部被拍打了一下，一位母親在看直播后就憤怒了，她說(shuō)這是我女兒公司做的機(jī)器人，你怎么能打他呢？”這時(shí)候賀江濤發(fā)現(xiàn)，人類(lèi)對(duì)這臺(tái)機(jī)器人產(chǎn)生了感情，與這臺(tái)機(jī)器人有了某些聯(lián)系。
除了情感，人工智能還涉及到隱私安全問(wèn)題。之前發(fā)生過(guò)美國(guó)兩夫妻吵架，而家中智能音響在察覺(jué)環(huán)境信息之后，做了自動(dòng)報(bào)警處理事件。這其中，智能音響一直在“竊聽(tīng)”夫妻的對(duì)話(huà)，以做出合適的應(yīng)對(duì)，很顯然其反饋結(jié)果并非這對(duì)夫妻所愿。
擁有自我意識(shí)還很遙遠(yuǎn)
在今年6月份，一份論文透露了這樣一項(xiàng)實(shí)驗(yàn)：Facebook的研究人員希望通過(guò)訓(xùn)練一對(duì)聊天機(jī)器人，讓它帶著“目的”和人類(lèi)對(duì)話(huà)。研究人員發(fā)現(xiàn)，人工智能甚至能夠?qū)Σ幌胍臇|西偽裝出興趣。雖然后來(lái)Facebook進(jìn)行了澄清，這也不得不啟發(fā)我們?nèi)ニ伎既斯ぶ悄軙?huì)不會(huì)有失控的那一天？
微軟亞洲研究院副院長(zhǎng)潘天佑在接受《每日經(jīng)濟(jì)新聞》記者專(zhuān)訪(fǎng)時(shí)表示，當(dāng)前人工智能的發(fā)展不見(jiàn)得失控，失控聽(tīng)起來(lái)很恐怖。作為一名計(jì)算機(jī)科技工作者，經(jīng)常向人解釋真實(shí)的科學(xué)和科幻電影的差距還非常大。
“很多時(shí)候，我們覺(jué)得人工智能的某些應(yīng)用呈現(xiàn)出好像有感情、好像有情商，其實(shí)這個(gè)仍然是虛擬的。比如語(yǔ)音聊天，它從互聯(lián)網(wǎng)上面學(xué)習(xí)很多人類(lèi)的聊天方式，它回答的某一句話(huà)，可能讓人覺(jué)得有感情。但這個(gè)感情，還是通過(guò)機(jī)器學(xué)習(xí)而實(shí)現(xiàn)的，還沒(méi)有自我意識(shí)的發(fā)生。”潘天佑說(shuō)道，我們自己還沒(méi)有探討清楚人類(lèi)的意識(shí)是什么？怎么去設(shè)計(jì)出一個(gè)東西有感情呢？
根據(jù)專(zhuān)家的觀點(diǎn)，無(wú)論當(dāng)前人工智能系統(tǒng)如何模仿人腦“神經(jīng)網(wǎng)絡(luò)”，對(duì)話(huà)、行動(dòng)等方面如何像人，只要人類(lèi)心智現(xiàn)象的最終解釋沒(méi)有取得突破性進(jìn)展，關(guān)于人工智能是否逼近人類(lèi)的設(shè)問(wèn)就缺少必要的前提。
從發(fā)展程度上來(lái)說(shuō)，目前我們發(fā)展的還是弱人工智能，強(qiáng)人工智能技術(shù)是否能實(shí)現(xiàn)尚未可知。潘天佑對(duì)《每日經(jīng)濟(jì)新聞》記者表示，未來(lái)的事情沒(méi)有人真的知道，從現(xiàn)在的狀態(tài)來(lái)看，人工智能的感情還僅僅是虛擬的，不用擔(dān)心人工智能可以做到像人類(lèi)一樣擁有自我意識(shí)、個(gè)人感情。
《互聯(lián)網(wǎng)進(jìn)化論》作者、計(jì)算機(jī)博士劉鋒對(duì)《每日經(jīng)濟(jì)新聞》記者表示，如果人工智能被看作與人類(lèi)同等地位的智慧生命體，它與人類(lèi)社會(huì)的關(guān)系存在倫理道德問(wèn)題。如果人工智能本質(zhì)上與菜刀一樣屬于工具，那么工具本身并不存在倫理問(wèn)題。
但有一點(diǎn)不可否認(rèn)，人工智能已經(jīng)悄然影響著人類(lèi)的思維方式。正如太和智庫(kù)副理事長(zhǎng)兼秘書(shū)長(zhǎng)伊迪所說(shuō)，人工智能在某一個(gè)領(lǐng)域或者是某種程度上來(lái)說(shuō)已經(jīng)超越了人類(lèi)大腦，可以做到人所不能的事情，對(duì)人類(lèi)的思維方式產(chǎn)生影響。比如，人類(lèi)思考問(wèn)題的方式主要為因果關(guān)系，未來(lái)人工智能包括大數(shù)據(jù)的發(fā)展更強(qiáng)調(diào)相關(guān)性。
