博弈人類與人工智能

自從去年阿爾法狗戰(zhàn)勝李世石后，人工智能在科技領(lǐng)域掀起了軒然大波，人工智能仿佛一夜之間就走入了我們的生活，科幻大片中的場景即將出現(xiàn)。劉宗凡：“機器覺醒”——虛驚一場的“新聞”關(guān)注人工智能的人可能會看到近期的一個新聞：Facebook（臉書）公司的兩個AI機器人，是社交網(wǎng)絡(luò)助手，可以用來進行談判。可是，據(jù)說這兩個機器人，突然用我們無法理解的語言進行對話，“嚇壞了”的工程師使出了絕招：關(guān)電源——就是停止了這個試驗項目。于是，各種科技媒體慌了，國內(nèi)也以類似標題：“Facebook關(guān)閉‘失控AI系統(tǒng)因其發(fā)展出人類無法理解的語言”進行報道，大有山雨欲來風(fēng)滿樓之勢，甚至被當(dāng)作“人工智能覺醒元年”這樣的大事件。右面就是兩個機器人的對話情況截圖。對于這些我們完全無法理解的對話，大家紛紛猜測，是機器人為了不讓我們知道他們到底聊了什么，而發(fā)明的一種新的語言。如果是這樣，那就說明機器人有意識地避開人類進行自己的某些“密謀”，讓人感到非常恐慌——有自己意識的機器人這么快就出現(xiàn)了？還好，很快就有相關(guān)技術(shù)人員做出了辟謠。真相是，在兩個機器人聊天時，工作人員在進行系統(tǒng)設(shè)置時，將激勵條件忘記設(shè)置為英文語法，從而導(dǎo)致機器人出現(xiàn)了語法混亂。Facebook也沒有關(guān)閉這個系統(tǒng)，而是重新設(shè)定了正確的激勵。該研究的首席作者MichaelLewis說：“沒有恐慌，項目也沒有關(guān)閉，我們的目標是建立可以與人交流的機器人。在一些實驗中，我們發(fā)現(xiàn)他們沒有像人們那樣使用英語單詞，所以我們停止了這些實驗，并使用了一些額外的技術(shù)來讓機器人按照我們的意愿工作。分析獎勵功能和改變實驗的參數(shù)不等同于‘拔掉或‘關(guān)閉AI。”我們在松了一口氣的同時，還是要考慮，人工智能，現(xiàn)在發(fā)展到什么階段了？人工智能會和人如何相處？我們該怎樣利用人工智能？人工智能真的會威脅到人類嗎？邱元陽：正本清源——人工智能還處于“石器時代”實際上，對于人工智能的研究，很多還停留在概念性的初級階段。新聞上非專業(yè)性的報道，常常會給我們一些錯覺，以為現(xiàn)在的人工智能已經(jīng)非常強大了。如果以漫長的人類社會作比喻，人工智能現(xiàn)在僅僅是處于人類社會的“石器時代”。很多時候，我們需要區(qū)分一下普通程序和人工智能。拿聊天機器人來說，看似智能化程度很高，但實際上，那僅僅是程序預(yù)設(shè)的一些判斷及對應(yīng)策略，并沒有智能可言。它既不知道我們在說什么，也不知道它自己在說什么。即使通過了圖靈測試，他們也未必具備哪怕微弱的智能。圖靈測試本身，還缺乏哲學(xué)層面的質(zhì)疑。不僅僅是聊天機器人，目前的所有的智能系統(tǒng)，都還無法做到對場景的常識理解。這種不理解會造成很多原設(shè)的判斷無法進行，從而出現(xiàn)重大失誤。在笨拙的機器人足球比賽中，我們常常可以看到機器人摔倒后爬不起來的情形。這對于無人駕駛汽車來說，可能是致命的。看起來智能化程度非常高的無人駕駛汽車，在研究人員認為已經(jīng)考慮到各種因素而接近完美時，它們還是出現(xiàn)各種事故。因為它們無法理解場景，僅僅依靠規(guī)則和程序是遠遠不夠的。看到一個人，我們可以知道它是要過路還是要停止，程序是做不到的，它甚至不能區(qū)分人與人像、草地與沼澤、場景與畫面。同樣地，機器翻譯看似可以翻譯不同的語言，其實它根本無法理解自然語言的語義，如果使用了“雙關(guān)”，肯定會被忽略。以前有新聞報道說機器人與人類比賽輸了，憤怒地通電電死了人類對手。我可以肯定寫這篇報道的記者不懂人工智能。情感和思想是機器無法逾越的高度，對于目前的人工智能而言，讓它自發(fā)產(chǎn)生情感實在是勉為其難，更別提具有獨立思想了。在科幻電影中，我們常常看到機器人學(xué)習(xí)人類戰(zhàn)術(shù)、殺死人類并妄圖控制人類的場景。但是在人類的生命周期中，恐怕不可能實現(xiàn)人工智能的思想意識了，除非將人工智能與人體結(jié)合，產(chǎn)生一種新的有機體。思想是生命的特征，機器的生命與生物的生命，概念是不一樣的。人工智能要想與人類的大腦媲美，還有很多困難。初級的，是經(jīng)驗和直覺；中級的，是情感和創(chuàng)新；高級的，是思維和思想。這些困難的克服，正是對人類自身大腦的挑戰(zhàn)，過程必然漫長而曲折。雖然不可能實現(xiàn)，我們還是希望能夠?qū)崿F(xiàn)，哪怕它是人類的災(zāi)難。雖然人工智能還處于混沌初開的時代，但在一些特定領(lǐng)域還是展露了曙光。我們來看看近年發(fā)生的一些新聞。1.阿爾法狗（AlphaGo）擊敗人類頂尖圍棋選手。要說人工智能元年最重磅的新聞，當(dāng)屬谷歌DeepMind團隊下的作品阿爾法狗以4∶1的比分擊敗世界圍棋冠軍、人類頂尖選手之一的李世石。阿爾法狗的二代產(chǎn)品Master，在網(wǎng)絡(luò)上以60連勝的姿態(tài)橫掃人類，并在正式比賽中以3∶0的完美姿態(tài)擊敗目前圍棋屆的世界第一人柯潔。我們之所以震驚于阿爾法狗取得的成就，是因為大家普遍認為人工智能征服古老的圍棋，起碼是10年之后的事情。圍棋變化之繁復(fù)，用以前的思路來解決這個問題是不可能的。神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)、蒙特卡羅樹等一系列思想和算法，在人工智能領(lǐng)域掀起了軒然大波。2.特斯拉Autopilot將血栓病人送到醫(yī)院。和谷歌正在研發(fā)的無人駕駛技術(shù)相比，科技新貴特斯拉的Autopilot只具有半自動駕駛功能，可以調(diào)節(jié)車速，切換車道，自動剎車。據(jù)報道，美國密蘇里州的一名男子、特斯拉ModelX車主約書亞·尼利（JoshuaNeally）近期在上班途中突發(fā)肺栓塞。在趕往醫(yī)院的20英里（約合32公里）高速公路車程中，Autopilot完成了全自動駕駛，抵達了醫(yī)院附近的一個高速公路匝道口。尼利隨后自行駕車抵達了醫(yī)院。在鋪天蓋地的無人駕駛新聞中，這樁小事可能無足掛齒，但卻折射了自動駕駛正從實驗室逐步走向現(xiàn)實中。無人駕駛的落地，將成為弱人工智能的巔峰。3.人工智能診斷癌癥。endprint“人工智能在醫(yī)療領(lǐng)域取得了重大進步，”美國路易斯維爾大學(xué)網(wǎng)絡(luò)安全實驗室主任羅曼·亞普爾斯基（RomanYampolskiy）說，“如IBM沃森就能判斷醫(yī)生無法判斷的問題。”IBM沃森總經(jīng)理大衛(wèi)·肯尼（DavidKenny）在BusinessInsider的Ignition大會上講了一個故事——這臺認知機器竟然在日本診斷了一位之前被漏診的白血病女患者。“從統(tǒng)計學(xué)上看，這種情況出現(xiàn)的概率約為三分之一，沃森建議再次診斷。”肯尼說。目前阿爾法狗在圍棋領(lǐng)域已經(jīng)退出，谷歌正在準備將這套系統(tǒng)的方法應(yīng)用在醫(yī)療領(lǐng)域。我們可以想象，人工智能在進行足夠的深度學(xué)習(xí)以后，其水平也將比肩甚至超過世界上頂尖的醫(yī)療專家。而這一技術(shù)的普及，將惠及千千萬萬普通百姓。4.中國的人工智能現(xiàn)狀。“人工智能”概念的提出，已經(jīng)經(jīng)過一個甲子了。在谷歌等一流公司的主導(dǎo)下，人工智能蓬勃興起。中國目前將這項偉大的項目執(zhí)行得如何呢？答案是，中國的語音識別和圖像識別的應(yīng)用已達到國際領(lǐng)先水平。中國在圖像及語音識別的基礎(chǔ)之上，模擬神經(jīng)網(wǎng)絡(luò)的輸入和輸出，并通過大規(guī)模的數(shù)據(jù)進行訓(xùn)練，再對樣本進行精準分類和預(yù)測，從而實現(xiàn)了“計算”之外的“思考”。這便是中國著力研究人工智能所得到的令人欣喜的結(jié)果。當(dāng)然，研發(fā)中會遇到瓶頸，同時也是突破口——訓(xùn)練和建模邏輯的算法，但我相信，只要不懈努力，中國定能取得更多更高的科研成就。倪俊杰：家庭生活——人工智能真的解放了家長？前些日子，在學(xué)生家長的朋友圈里盛傳著一條信息：一款名為“愛作業(yè)”的APP一下子火了。家長只要拿起手機拍照，就能夠迅速檢查孩子的口算作業(yè)，算術(shù)作業(yè)的成績很快就統(tǒng)計出來，準確度也很高，同時還會標出算錯的題目。由于該APP的推出時間和功能極佳，一經(jīng)推出就收到了奇效。第一天的下載量就達到了1800，第三天飆升到24萬的下載量，一周的時間總下載量達到了30萬。在上線第四天的時候，“愛作業(yè)”APP就在蘋果APPStore總排名第75位，在教育類APP下載排行第五。從技術(shù)角度來說，“愛作業(yè)”APP主要運用了字符識別和機器計算等技術(shù)，其核心也是人工智能技術(shù)。從這點來說，人工智能確實解放了家長，速度也很快，節(jié)省了不少時間。但也透露出一些隱憂，有用戶在留言區(qū)就評論：“連算術(shù)題都需要借助APP，家長是不是太懶了？”“APP都能解決問題了，那么要家長和老師有什么用？”以上評論雖有些偏激，但細想也并非毫無道理。現(xiàn)在借助技術(shù)手段，出現(xiàn)了很多能夠幫助孩子學(xué)習(xí)的“智能軟件”“智能設(shè)備”，甚至是陪讀機器人。這些軟件或設(shè)備的出現(xiàn)，看似解放了家長，但也給了家長一個借口：我反正不會，有這么好用的設(shè)備、軟件，何樂而不為呢？反正人家都在用，我們要是不用，就會落伍了。有些家長還將孩子學(xué)習(xí)的場景每天發(fā)到朋友圈“打卡”。此外，高考機器人的出現(xiàn)，也讓部分家長和學(xué)生認為，十年寒窗的學(xué)習(xí)變得不是那么必要了。至此，我們不得不重新思考這樣一個問題：是不是所有的人工智能都是必要的？檢查作業(yè)這些看似瑣碎的工作，但卻能夠讓孩子感受到來自家長的關(guān)注。檢查過程中的親子溝通，更能夠激發(fā)孩子學(xué)習(xí)的興趣與積極性，也能讓家長更加全面地了解孩子學(xué)習(xí)過程中的實際情況，而不僅僅是答案的正確與否。如果技術(shù)成為主導(dǎo)，那么家長與孩子之間的連接，也會逐漸疏遠。那樣的話，就因小失大了。人與人之間，有些必要的聯(lián)系，技術(shù)是無法替代的。愛因斯坦曾經(jīng)警告，人類作為一個種群的未來取決于我們?nèi)绾问谷找嬖鲩L的知識與運用這些知識的智慧保持平衡。那么，技術(shù)與人性的平衡在哪里？我認為，未來智能時代的教育，還應(yīng)當(dāng)是一種“人性”的教育，德行和情感等人性特有的東西應(yīng)當(dāng)受到極大的重視。邱元陽：自動駕駛——繞不開的“電車難題”人工智能中一個非常火爆的方向就是自動（無人）駕駛，谷歌是其中的翹楚。從2009年開始開發(fā)自動駕駛技術(shù)，到現(xiàn)在谷歌的無人駕駛汽車已經(jīng)在路上行駛超過322萬公里。李開復(fù)在創(chuàng)新工場的“人工智能戰(zhàn)略展望會”上談到，無人駕駛將成為最會顛覆人類已有世界的技術(shù)。在我們看起來經(jīng)過簡單訓(xùn)練就可以掌握的駕駛技術(shù)，在人工智能領(lǐng)域有很多難題亟待突破。從行業(yè)發(fā)展歷程中可以看出，在以深度學(xué)習(xí)為突破的“人工智能時代”大風(fēng)口下，自動駕駛被給予了前所未有的關(guān)注，包括互聯(lián)網(wǎng)公司、傳統(tǒng)車廠、新興創(chuàng)業(yè)公司，各路資本爭相競逐。無人駕駛將是弱人工智能的終極場景，機器視覺識別、深度學(xué)習(xí)、增強學(xué)習(xí)、GPU、傳感器技術(shù)等均在自動駕駛領(lǐng)域發(fā)揮著重要的作用，甚至行業(yè)發(fā)展的瓶頸主要在于這些人工智能底層技術(shù)上能否實現(xiàn)突破。人工智能本身越來越需要與應(yīng)用場景結(jié)合才能最大限度地轉(zhuǎn)化技術(shù)上的創(chuàng)新和突破，因此考慮到汽車行業(yè)本身的體量以及與相關(guān)行業(yè)的關(guān)聯(lián)度，可以說自動駕駛是人工智能實現(xiàn)場景落地的最重要方向。無人駕駛的發(fā)展，除了決定于人工智能技術(shù)的發(fā)展，還面臨著嚴重的倫理道德問題。我們來看一下哲學(xué)領(lǐng)域的“電車難題（TrolleyProblem）”。電車難題最早是由哲學(xué)家PhilippaFoot提出的，是倫理學(xué)領(lǐng)域最為知名的思想實驗之一，其內(nèi)容大致是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，并且片刻后就要碾壓到他們。幸運的是，你可以拉一個拉桿，讓電車開到另一條軌道上。然而問題在于，那個瘋子在另一個電車軌道上也綁了一個人。考慮以上狀況，你是否應(yīng)拉桿？這個著名的心理實驗，在無人駕駛中將變?yōu)橐粋€現(xiàn)實場景。無人駕駛雖然隨著人工智能的發(fā)展將非常安全，但肯定不是百分之百能避免事故發(fā)生。我們可以想象一下，無人駕駛汽車在正常高速行駛，左邊一部車失控將要撞上來，而右邊有一個無辜的行人。撞上去，兩部車上的人將同歸于盡；打方向變道，撞死旁邊的行人，自己活下來。面臨這兩個選擇，人工智能將以什么標準來進行自己的操作呢？當(dāng)我們把生死交給冷冰冰的人工智能去裁決時，是不是會覺得非常殘酷？endprint倪俊杰：現(xiàn)實焦慮——人工智能會不會搶走我們的工作？人類發(fā)明人工智能技術(shù)的目的是解放生產(chǎn)力，提高工作效率，做人類做不到的事情。但是，甚至連人類都想不到，人工智能正在給人類帶來“反作用”。阿里巴巴集團董事局主席馬云在美國底特律召開的阿里巴巴中小企業(yè)論壇會上曾經(jīng)說過：“隨著人工智能的逐步發(fā)展，未來30年人類每天只需要工作4小時，每周只工作4天。有更多工作被搶走，一些能順應(yīng)潮流的人將變得愈發(fā)富有和成功，而那些被時代甩在身后的人則會越來越痛苦。”事實確實如此，隨著“機器換人”的興起，未來20年內(nèi)，一半的人類勞動力將會被機器和軟件所取代，今后的企業(yè)將充斥著各類高效工作且易管理的機器，越來越多的工作已經(jīng)轉(zhuǎn)交給人工智能機器人。還有人開始擔(dān)心，人工智能會威脅人類的生存。那么，人工智能會不會搶我們的工作呢？我倒是覺得，并不是人工智能在“搶”工作，而是我們?nèi)祟悓⒁呀?jīng)“不適合”自己去做的工作，“明智”地轉(zhuǎn)交給人工智能機器去做，人工智能幫助人類分擔(dān)了大量繁瑣、重復(fù)、單調(diào)的工作。俗話說，舊的不去，新的不來。只有放棄低效繁雜的活，人類才會以更高的效率向前進。人類沒必要擔(dān)憂，想要不被大時代趨勢淘汰，就應(yīng)該正視這個趨勢，擺正態(tài)度，加強學(xué)習(xí)，提高自身本領(lǐng)。當(dāng)然，人工智能并不會搶走所有的工作。起碼在三個領(lǐng)域，是必須有人參與的：一是創(chuàng)造性工作，如對科學(xué)與藝術(shù)和對未來的探索等；二是設(shè)置KPI和價值觀的工作，AlphaGo圍棋上戰(zhàn)勝人類，但是它贏棋的目標是由人來設(shè)定的；三是情緒勞動，這個與愛及心理相關(guān)的概念，是由美國社會學(xué)家霍赫希爾德提出的。在短期內(nèi)，像醫(yī)生、廚師、駕駛員、教師這樣專業(yè)性和情感性較強的工作，人工智能是無法替代的。這也從側(cè)面說明了，人工智能和人類還是有本質(zhì)區(qū)別的。劉宗凡：“人機相戀”——終極的倫理拷問在人類發(fā)展的歷史長河中，男女相戀、結(jié)合，繁衍下一代，使得人類生生不息。如果戀愛的結(jié)果不能產(chǎn)生下一代，則這種“愛”會被認為是不道德的，甚至是病態(tài)的、反人類的。比如“同性戀”，直到今天大多數(shù)國家還是不承認其合法性。隨著人工智能的發(fā)展，比同性戀更可怕的畸戀——“人機戀”可能發(fā)生嗎？在我們看來，目前的機器人只不過是一堆冰冷的鐵塊和嚴謹?shù)某绦虻慕Y(jié)合，機器人產(chǎn)生人類感情是不可能實現(xiàn)的。我們也無法想象，人類會和機械及代碼產(chǎn)生什么感情。當(dāng)機器人與人相伴之后，即使它沒有情感，人類也是可能會對它產(chǎn)生情感的，這是作為生物體的人的特點。就好比我們用過的物件，我們?nèi)匀粫钌顟涯罨蛸x予情感加以保護，對它傾訴和交流。情感是高級生命的特征。這樣想來，那些想與機器人結(jié)婚的想法，應(yīng)該跟與充氣娃娃結(jié)婚的想法一樣，并不能說明機器的情感，終歸還是人的情感問題。但是，有一種觀點認為：人工智能基于大數(shù)據(jù)，利用深度學(xué)習(xí)來學(xué)習(xí)模仿人類的思維和行為方式，通過大量的積累便能產(chǎn)生一定的情感。打個形