你如何教導(dǎo)機(jī)器？

Facebook的人工智能研究總監(jiān)Yann LeCun：如何為機(jī)器制定教學(xué)計(jì)劃。

人工智能的傳統(tǒng)定義是，機(jī)器以通常我們認(rèn)為屬于人類(lèi)的方式，來(lái)執(zhí)行任務(wù)和解決問(wèn)題。有一些任務(wù)我們覺(jué)得很簡(jiǎn)單--識(shí)別照片中的物體、駕駛汽車(chē)--可是這些任務(wù)對(duì)于AI來(lái)說(shuō)特別困難。機(jī)器可以在棋盤(pán)上超越人類(lèi)，可是那些機(jī)器的程序從本質(zhì)上來(lái)說(shuō)是體力活，機(jī)器受到程序的限制。一個(gè)30美元的設(shè)備就能在棋類(lèi)游戲上超越我們，可是它沒(méi)法做--也沒(méi)法學(xué)會(huì)做--其他所有事情。

這就是為什么我們需要機(jī)器學(xué)習(xí)。給機(jī)器展示幾百?gòu)堌埖恼掌?，機(jī)器就會(huì)訓(xùn)練自己的算法，學(xué)會(huì)更好地識(shí)別照片中的貓。機(jī)器學(xué)習(xí)是所有大型互聯(lián)網(wǎng)公司的基礎(chǔ)，讓公司可以進(jìn)行搜索結(jié)果排名，為特定用戶(hù)選擇最相關(guān)的內(nèi)容和建議。

深度學(xué)習(xí)是以人類(lèi)大腦為基礎(chǔ)，要復(fù)雜得多。與機(jī)器學(xué)習(xí)不同的是，深度學(xué)習(xí)可以教會(huì)機(jī)器忽略聲音或圖像中所有不重要的信息--呈現(xiàn)一種能夠反映無(wú)限多樣性的層級(jí)性世界觀(guān)。正是深度學(xué)習(xí)為我們帶來(lái)了無(wú)人車(chē)、語(yǔ)音識(shí)別、以及有時(shí)候比放射學(xué)專(zhuān)家更擅長(zhǎng)識(shí)別腫瘤的醫(yī)療分析系統(tǒng)。

雖然有了這些值得贊嘆的進(jìn)步，我們距離與人類(lèi)同樣智能的機(jī)器還很遠(yuǎn)--我們的機(jī)器甚至與老鼠的智能相比都差得很遠(yuǎn)，我們大約只見(jiàn)證了AI實(shí)力的5%。

是時(shí)候重新思考就業(yè)嗎？

百度首席科學(xué)家吳恩達(dá)：AI將如何改變未來(lái)的就業(yè)。

如今在美國(guó)，駕駛貨車(chē)是最常見(jiàn)的職業(yè)之一。幾百萬(wàn)人在東西海岸之間運(yùn)輸著貨物，以此維持生計(jì)。然而，很快所有這些就業(yè)機(jī)會(huì)都將消失。無(wú)人車(chē)將替代人類(lèi)司機(jī)在路面行駛，并且更快、更安全、更高效。有這么好的事，還有哪家公司會(huì)選擇更昂貴、更容易犯錯(cuò)的人類(lèi)司機(jī)呢？

類(lèi)似的勞動(dòng)力變革在歷史上也有先例。在工業(yè)革命前，90%的美國(guó)人在農(nóng)場(chǎng)工作。蒸汽技術(shù)和制造業(yè)的興起讓許多人失業(yè)了，但是也創(chuàng)造了很多新的工作機(jī)會(huì)--還創(chuàng)造了很多當(dāng)時(shí)人們無(wú)法想象得到的新領(lǐng)域。這個(gè)排山倒海般的巨變是在兩個(gè)世紀(jì)的過(guò)程中慢慢展開(kāi)的，當(dāng)時(shí)，美國(guó)有足夠時(shí)間來(lái)適應(yīng)變化。農(nóng)民們直到退休都在種田，而他們的下一代去上學(xué)，成為了電工、工廠(chǎng)領(lǐng)班、房地產(chǎn)商和食品化學(xué)家。

而卡車(chē)司機(jī)們就沒(méi)有這么幸運(yùn)了。他們的職業(yè)，還有另外幾百萬(wàn)人的職業(yè)，很快就會(huì)過(guò)時(shí)。在智能機(jī)器時(shí)代，數(shù)量眾多的人們將沒(méi)有工作的能力，或者有被淘汰的風(fēng)險(xiǎn)。我們可能會(huì)見(jiàn)證20世紀(jì)30年代經(jīng)濟(jì)危機(jī)以來(lái)最大的失業(yè)大潮。

1933年，富蘭克林羅斯福的新政幫助了大量失業(yè)人口，并且?guī)椭貑⒘嗣绹?guó)經(jīng)濟(jì)。更重要的是，它幫助美國(guó)從一個(gè)農(nóng)業(yè)社會(huì)轉(zhuǎn)變?yōu)橐粋€(gè)工業(yè)社會(huì)。羅斯福的“公共工程署”雇傭了失業(yè)者來(lái)建造橋梁和新的高速公路，改善了美國(guó)的交通基礎(chǔ)建設(shè)。這些改善為當(dāng)時(shí)非常先進(jìn)的新技術(shù)應(yīng)用奠定了基礎(chǔ)：汽車(chē)。

我們需要有一個(gè)針對(duì)21世紀(jì)的新政，針對(duì)人工智能會(huì)帶來(lái)的新就業(yè)機(jī)會(huì)打造培訓(xùn)項(xiàng)目。我們需要重新訓(xùn)練卡車(chē)司機(jī)和辦公室助理，來(lái)打造未來(lái)的數(shù)據(jù)分析師、旅行規(guī)劃師等等其他我們現(xiàn)在還不知道自己有需求的職業(yè)。美國(guó)南北戰(zhàn)爭(zhēng)前（19世紀(jì)60年代前）的農(nóng)民，絕對(duì)無(wú)法想象自己的兒子會(huì)當(dāng)電工，而現(xiàn)在，我們也很難說(shuō)AI在未來(lái)會(huì)創(chuàng)造什么樣的工作機(jī)會(huì)。不過(guò)我們清楚的是，必須采取革命性的措施，才能完成從工業(yè)社會(huì)到智能機(jī)器時(shí)代的轉(zhuǎn)變。

AI：和人類(lèi)一樣？

智能機(jī)器如何做到模仿自己的“造物主”。

要實(shí)現(xiàn)人類(lèi)級(jí)別的人工智能，我們下一步要做的就是創(chuàng)造智能的--但不是自動(dòng)的--機(jī)器。你汽車(chē)中的AI系統(tǒng)可以讓你安全到家，但是沒(méi)法在你回家后自動(dòng)選擇下一個(gè)目的地。我們將以此為基礎(chǔ)，加入基本的動(dòng)機(jī)以及情感和道德價(jià)值。如果我們創(chuàng)造出學(xué)習(xí)能力像人類(lèi)大腦一樣強(qiáng)的機(jī)器，應(yīng)該不難想象機(jī)器會(huì)“繼承”一些類(lèi)似人類(lèi)的特點(diǎn)--還有弱點(diǎn)。但是在我看來(lái)，“終結(jié)者”預(yù)言極其不可能。這需要一個(gè)精心策劃的、意圖不軌的個(gè)體，特意將惡意企圖寫(xiě)入智能機(jī)器，沒(méi)有哪個(gè)機(jī)構(gòu)--更別說(shuō)哪個(gè)公司或者個(gè)人--可以憑一己之力實(shí)現(xiàn)人類(lèi)等級(jí)的AI。打造智能機(jī)器是我們這個(gè)時(shí)代最大的科學(xué)挑戰(zhàn)之一，需要各個(gè)國(guó)家、公司、實(shí)驗(yàn)室和學(xué)術(shù)團(tuán)體之間共同分享智慧。AI的進(jìn)步最有可能是漸進(jìn)的，而且是開(kāi)放的。-- Yann LeCun。

如何成為機(jī)器的主人

牛津大學(xué)人類(lèi)未來(lái)研究所的創(chuàng)始總監(jiān)Nick Bostrom:AI的生存危機(jī)。由Daniela Hernandez采訪(fǎng)。

能說(shuō)說(shuō)你正在進(jìn)行的工作嗎？

我們對(duì)于“控制問(wèn)題”相關(guān)的技術(shù)挑戰(zhàn)非常感興趣。你能確保AI做的事情，一定是符合程序員初衷的嗎？我們還對(duì)強(qiáng)智能AI帶來(lái)的經(jīng)濟(jì)、政治和社會(huì)問(wèn)題感興趣。什么樣的政治體制最能夠幫助我們轉(zhuǎn)型進(jìn)入智能機(jī)器時(shí)代？我們?nèi)绾未_保不同的利益相關(guān)者聯(lián)合起來(lái)，從事可以帶來(lái)積極結(jié)果的事情？

你進(jìn)行了很多關(guān)于生存危機(jī)的研究。如果用最直白的語(yǔ)言向一個(gè)5歲小孩解釋?zhuān)銜?huì)如何描述呢？

我會(huì)說(shuō)，這是可以永遠(yuǎn)毀滅人類(lèi)未來(lái)的科技。對(duì)于年紀(jì)更大一點(diǎn)的聽(tīng)眾，我會(huì)說(shuō)有人類(lèi)滅絕的可能，或者可能永遠(yuǎn)摧毀我們?cè)谖磥?lái)實(shí)現(xiàn)價(jià)值的可能性。

你認(rèn)為什么樣的策略會(huì)幫助減輕人工智能的潛在生存危機(jī)？

研究控制問(wèn)題會(huì)有所幫助。當(dāng)我們搞明白如何讓機(jī)器變得真正智能，我們應(yīng)該能有一些概念，知道如何控制這樣的機(jī)器，如何進(jìn)行工程設(shè)計(jì)，從而讓機(jī)器與人類(lèi)站在同一陣營(yíng)，符合人類(lèi)價(jià)值觀(guān)，不具有破壞性。這涉及一系列的技術(shù)挑戰(zhàn)，其中一些我們現(xiàn)在已經(jīng)開(kāi)始研究了。

你能舉個(gè)例子嗎？

對(duì)于控制問(wèn)題，不同的人思考著不同的方法。一種方式是研究?jī)r(jià)值觀(guān)學(xué)習(xí)。我們希望自己打造的AI最終可以分享我們的價(jià)值觀(guān)，這樣AI可以作為我們?nèi)祟?lèi)意志的延伸。我們沒(méi)法把自己重視的一切寫(xiě)在一個(gè)長(zhǎng)長(zhǎng)的列表然后塞給AI。更好的辦法，是利用AI自己的智能來(lái)學(xué)習(xí)我們的價(jià)值觀(guān)和喜歡。

每一個(gè)人的價(jià)值觀(guān)都不同。我們?nèi)绾螞Q定機(jī)器該學(xué)習(xí)什么樣的價(jià)值觀(guān)？

這是一個(gè)很大、很復(fù)雜的問(wèn)題：價(jià)值觀(guān)之間的巨大沖突以及利益之間的巨大沖突。從某種意義上說(shuō)，這是最大的一個(gè)未解難題。如果你對(duì)于技術(shù)進(jìn)步比較樂(lè)觀(guān)，你會(huì)覺(jué)得最終我們總會(huì)知道怎樣可以做到越來(lái)越多的事情。

我們會(huì)以前所未有的程度征服自然。但是有一項(xiàng)科技無(wú)法自動(dòng)解決的問(wèn)題，就是沖突和戰(zhàn)爭(zhēng)。最黑暗的宏觀(guān)畫(huà)面是，人們有可能利用技術(shù)，這種超越自然的力量、這種知識(shí)，專(zhuān)門(mén)用來(lái)傷害和破壞他人。這個(gè)問(wèn)題沒(méi)法自動(dòng)解決。

我們?nèi)绾螒?yīng)對(duì)這種壓力？

對(duì)于這個(gè)問(wèn)題我沒(méi)有簡(jiǎn)單的答案。我不認(rèn)為存在一個(gè)簡(jiǎn)單的技術(shù)解決方案。

一個(gè)自動(dòng)編程的代理能否從我們?yōu)槠湓O(shè)定的控制系統(tǒng)中解放出來(lái)？人類(lèi)已經(jīng)一直在這樣做了，從某種意義上來(lái)說(shuō)，當(dāng)我們出于自私行事的時(shí)候。

保守的假設(shè)是，強(qiáng)人工智能可以自我編程，可以改變自己的價(jià)值觀(guān)，而且可以打破任何我們?yōu)槠湓O(shè)定的束縛。那樣的話(huà)，我們的目標(biāo)就會(huì)是對(duì)其進(jìn)行設(shè)計(jì)，讓機(jī)器選擇不使用那些能力來(lái)傷害人類(lèi)。如果AI希望為人類(lèi)服務(wù)，它會(huì)對(duì)一個(gè)殺害人類(lèi)的行為分配很低的預(yù)期實(shí)效。我們有理由這樣認(rèn)為，如果你以恰當(dāng)?shù)姆绞皆O(shè)定目標(biāo)系統(tǒng)，最終的決策標(biāo)準(zhǔn)就能保持下來(lái)。

讓我們把大腦變得更好

PayPal及Founders Fund聯(lián)合創(chuàng)始人Luke Nosek：在人工大腦出現(xiàn)前，我們需要訓(xùn)練自己的大腦。

今年早些時(shí)候，韓國(guó)圍棋冠軍李世石與谷歌的人工智能程序AlphaGo進(jìn)行了一場(chǎng)歷史性的大戰(zhàn)。李世石名下有18項(xiàng)世界冠軍頭銜，但是在今年3月19日，他敗給了軟件。

如今的高性能計(jì)算前所未有的強(qiáng)大。不過(guò)距離強(qiáng)人工智能系統(tǒng)的出現(xiàn)還有很遠(yuǎn)的距離，機(jī)器還遠(yuǎn)未達(dá)到人類(lèi)大腦的能力。我們還沒(méi)能理解強(qiáng)人工智能（有時(shí)候稱(chēng)為AGI）會(huì)如何運(yùn)作，會(huì)為我們的生活和經(jīng)濟(jì)帶來(lái)什么影響。經(jīng)常有人將這種影響的廣度比作核技術(shù)的出現(xiàn)，從史蒂芬霍金、到伊隆馬斯克、到AlphaGo的創(chuàng)造者都建議，我們應(yīng)該小心前進(jìn)。

核武器的比喻很帶感，但是也挺恰當(dāng)。核武器是強(qiáng)AI最糟糕的情況。相反，樂(lè)觀(guān)的預(yù)計(jì)又亮瞎人眼（普遍的經(jīng)濟(jì)繁榮、消滅所有疾病），樂(lè)觀(guān)與恐懼都可能讓我們產(chǎn)生偏見(jiàn)。

強(qiáng)AI可以幫助幾十億人過(guò)上更安全、更健康、更快樂(lè)的生活。但是要設(shè)計(jì)這樣的機(jī)器，工程師需要對(duì)于智能人類(lèi)和機(jī)器所面對(duì)的復(fù)雜的社會(huì)、神經(jīng)和經(jīng)濟(jì)現(xiàn)實(shí)有更好的理解力，比如今任何人都更好的理解力。如果我們對(duì)現(xiàn)有的大腦進(jìn)行升級(jí)，我們能更好地來(lái)理解、打造強(qiáng)AI，并與之共存。

我們可以將人類(lèi)智能的提升分為三個(gè)階段。第一個(gè)階段，使用類(lèi)似谷歌搜索的科技來(lái)增強(qiáng)和補(bǔ)充人類(lèi)大腦，這已經(jīng)在進(jìn)行中了。我們可以比較一下：1996年一個(gè)持有圖書(shū)館借書(shū)證的五歲小孩，和2016年一個(gè)打開(kāi)了谷歌搜索主頁(yè)的五歲小孩--只要敲幾下鍵盤(pán)，就能獲得非常多的人類(lèi)知識(shí)。

如果第一階段需要用科技來(lái)補(bǔ)充大腦，那么第二階段就要直接放大大腦。適應(yīng)性學(xué)習(xí)軟件將教育個(gè)人化，對(duì)課程進(jìn)行實(shí)時(shí)調(diào)整。如果學(xué)生表現(xiàn)出色，教學(xué)速度就會(huì)加快。如果學(xué)生學(xué)習(xí)比較困難，軟件也會(huì)放慢節(jié)奏、轉(zhuǎn)變教學(xué)風(fēng)格或者告訴老師需要指導(dǎo)。適應(yīng)性學(xué)習(xí)和在線(xiàn)教育有可能意味著一刀切教育的終結(jié)。融合增強(qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)技術(shù)，也可以以我們無(wú)法想象的方式放大智能。

智能提升的第三階段需要從根本上改變大腦。經(jīng)顱磁刺激（TMS）是一項(xiàng)美國(guó)食品藥品監(jiān)督管理局（FDA）批準(zhǔn)的無(wú)創(chuàng)治療方法，治療中會(huì)將一個(gè)電磁線(xiàn)圈應(yīng)用在頭上。TMS目前被用于治療創(chuàng)傷后應(yīng)激障礙（PTSD）、自閉癥和抗藥性的嚴(yán)重抑郁癥。例如加州大腦治療中心以及肯塔基州路易斯維爾大學(xué)這樣的機(jī)構(gòu)中，樣本數(shù)量不大，而且影響的持續(xù)時(shí)間還未知，但是出現(xiàn)好轉(zhuǎn)的個(gè)體比例很高--在比例最高的試驗(yàn)中，200個(gè)較高功能的自閉癥病人中有90%實(shí)現(xiàn)了好轉(zhuǎn)。早期跡象顯示，TMS可能對(duì)于看起來(lái)沒(méi)有相關(guān)性的大量神經(jīng)學(xué)癥狀會(huì)有療效。如果我們能對(duì)受傷的的或者非神經(jīng)正常的大腦產(chǎn)生積極影響，也許不久后，我們就能提升健康大腦內(nèi)的聯(lián)接，實(shí)現(xiàn)普遍提升智能。

強(qiáng)AI已經(jīng)出現(xiàn)在地平線(xiàn)上，但是目前來(lái)說(shuō)，我們只有自己的大腦可以用。提升我們自己的智能，是創(chuàng)造未來(lái)智能機(jī)器并與之共存的第一步。

你沒(méi)法讓機(jī)器學(xué)會(huì)常識(shí)

至少現(xiàn)在還不能。這仍然是真正人工智能最大的障礙。

預(yù)測(cè)性學(xué)習(xí)也叫作無(wú)監(jiān)督學(xué)習(xí)，是動(dòng)物和人類(lèi)理解世界的首要模式。我們可以看看這個(gè)句子：“約翰拿起他的電話(huà)并離開(kāi)房間。”經(jīng)驗(yàn)告訴你，電話(huà)可能是移動(dòng)模式的，約翰可能是從門(mén)里走出去的。而機(jī)器缺少對(duì)于世界常態(tài)及其限制的良好表征，也許永遠(yuǎn)沒(méi)法推測(cè)出以上的信息。機(jī)器中的預(yù)測(cè)性學(xué)習(xí)--一個(gè)非常重要但是還有待發(fā)展的特征--會(huì)讓AI不需要人類(lèi)監(jiān)督，可以自主學(xué)習(xí)，就像小孩子學(xué)習(xí)一樣。但是，要讓機(jī)器學(xué)會(huì)常識(shí)不只是一個(gè)技術(shù)問(wèn)題，這是一個(gè)可能要花上幾十年的科學(xué)和數(shù)學(xué)挑戰(zhàn)。在那之前，我們的機(jī)器沒(méi)法成為真正智能的機(jī)器。