谷歌開發(fā)者大會爐邊談話:AI如何影響人類理解大腦
導(dǎo)語:Geoffrey Hinton在谷歌I/O大會爐邊談話中討論深層神經(jīng)網(wǎng)絡(luò),解析AI技術(shù)可行性及意義。
智東西5月10日消息,最新一屆圖靈獎得主、多倫多大學(xué)名譽教授兼谷歌大腦AI 團隊的高級研究員Geoffrey Hinton在山景城(Mountain View)谷歌I / O開發(fā)者大會的爐邊聊天中發(fā)表了講話。他討論了神經(jīng)網(wǎng)絡(luò)的起源,以及人工智能的可行性和意義。
Geoffrey Hinton被稱為“人工智能教父”,在過去30年里一直致力于解決AI面臨的一些最大挑戰(zhàn)。除了在機器學(xué)習(xí)方面的開創(chuàng)性工作,Geoffrey Hinton還撰寫或與別人合著了共200多篇同行評議的論文,其中包括1986年關(guān)于機器學(xué)習(xí)技術(shù)的一篇叫做“backpropagation”(反向傳播)的論文。
Geoffrey Hinton推廣了深層神經(jīng)網(wǎng)絡(luò)的概念,包含上述功能的人工智能模型,它們被安排在相互連接的層中,傳輸“信號”并調(diào)整連接的突觸強度(權(quán)重)。通過這種方式,他們從輸入數(shù)據(jù)中提取特征,并學(xué)會做出預(yù)測。
一、自注意力網(wǎng)絡(luò)優(yōu)于最先進模型,所需訓(xùn)練數(shù)據(jù)更少
Transformers是一種自注意力網(wǎng)絡(luò)架構(gòu),是一系列深度神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu),通過自注意力層相互堆疊,多重轉(zhuǎn)換學(xué)習(xí)輸入分詞,在具體的情境中得到了完善。谷歌的研究人員兩年前的在一篇博客文章和隨附論文“注意力就是你所需要的一切”中對此進行了詳細闡述。由于動態(tài)計算權(quán)重的注意力機制,Transformers在語言翻譯任務(wù)中的表現(xiàn)優(yōu)于最先進的模型,而且訓(xùn)練所需的計算量更少。
Geoffrey Hinton承認,創(chuàng)新的步伐甚至讓他感到驚訝。他表示“在2012年的時候,我并沒想到在未來五年內(nèi),我們會使用相同的技術(shù)在多種語言之間進行翻譯?!?/p>
Geoffrey Hinton認為,當(dāng)前的AI和機器學(xué)習(xí)方法有其局限性。他指出,大多數(shù)計算機視覺模型沒有反饋機制,也就是說,它們不會嘗試從更高層次的表示中重建數(shù)據(jù)。相反,他們試圖通過改變權(quán)重來區(qū)分性地學(xué)習(xí)特征。
Geoffrey Hinton說:“”他們并沒有在各種級別特征探測器級別上檢查他們是否能夠重建下面的數(shù)據(jù)。”
二、AI研究為神經(jīng)科學(xué)提供借鑒
Geoffrey Hinton和他的同事最近轉(zhuǎn)向人類視覺皮層尋求靈感。Geoffrey Hinton表示,人類視覺需要一種重建的學(xué)習(xí)方法,事實證明,計算機視覺系統(tǒng)中的重建技術(shù)增強了他們對抗對抗性攻擊的能力。
大腦科學(xué)家們都同意這樣的觀點,如果你的大腦皮層有兩個區(qū)域處于知覺通路中,并且一個區(qū)域與另一個區(qū)域之間存在聯(lián)系,那么總會有一個向后的路徑?!?/p>
Geoffrey Hinton認為,神經(jīng)科學(xué)家可以從AI研究人員那里學(xué)到很多東西。他認為未來的AI系統(tǒng)大多數(shù)都是無監(jiān)督的。無監(jiān)督學(xué)習(xí)是機器學(xué)習(xí)的一個分支,可以從未標(biāo)記的、未分類和未分類的測試數(shù)據(jù)中收集知識。其學(xué)習(xí)共性、并對共性的存在或不存在做出反應(yīng)的能力幾乎與人類相似。
如果你采用具有數(shù)十億參數(shù)的系統(tǒng),并且在一些目標(biāo)函數(shù)中進行學(xué)術(shù)梯度下降,它的效果會比預(yù)期的要好得多,規(guī)模越大,效果越好。Geoffrey Hinton說:“這使得大腦計算某些目標(biāo)功能的梯度并更新突觸的強度以遵循這一梯度的說法更加可信。我們只需要知道它是如何得到梯度的,以及目標(biāo)函數(shù)是什么?!?/p>
Geoffrey Hinton認為,這甚至可能解開夢的奧秘。關(guān)于為什么我們會不記得夢境的疑問。他認為這可能與“忘卻”有關(guān),他在一篇關(guān)于玻爾茲曼機器的合著論文中解釋了這一理論。這些AI系統(tǒng),由對稱連接的神經(jīng)元單位組成網(wǎng)絡(luò),可以隨機決定是“開”還是“關(guān)”,通過系統(tǒng)觀察到的數(shù)據(jù)結(jié)果來看,“忘卻”并不那么令人驚訝。
Geoffrey Hinton說:“做夢的意義可能在于,你把整個學(xué)習(xí)過程顛倒過來。”
三、神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)應(yīng)用于教育領(lǐng)域會帶來何種改變?
Geoffrey Hinton相信,這些學(xué)習(xí)可以改變許多領(lǐng)域,比如教育,他預(yù)計將人類生物化學(xué)的課程變得更加個性化、針對性更強。
Geoffrey Hinton說:“你可能會認為,如果我們真正了解目前的情況,我們應(yīng)該能夠改善教育等方面的狀況,我認為我們會做到。如果你最終能夠理解大腦是如何工作以及學(xué)習(xí)的,卻不為了更好地學(xué)習(xí)而去適應(yīng)環(huán)境,那將是非常奇怪的?!?/p>
他警告說,這需要時間。就近期而言,Geoffrey Hinton設(shè)想了智能助理的未來,比如Google Assistant或Amazon的Alexa,它們可以與用戶互動,并在日常生活中引導(dǎo)他們。
Geoffrey Hinton的預(yù)測是在谷歌的前執(zhí)行主席Eric Schmidt最近的一次演講之后發(fā)布的。Eric Schmidt同樣相信,在未來,個性化的AI助手將使用我們的行為知識來讓我們了解情況。
Geoffrey Hinton總結(jié)說:“在幾年內(nèi),我不確定我們會學(xué)到多少東西。但是如果你仔細看看,助理程序現(xiàn)在已經(jīng)相當(dāng)智能,一旦它們能夠真正理解對話,智能助理就可以與孩子進行對話并教育他們?!?/p>
結(jié)語:AI融入生活,技術(shù)改變未來
AI已經(jīng)逐漸融入了我們的日常生活,無論是智能家居產(chǎn)品還是智能穿戴設(shè)備,都成為了我們簡化我們工作生活的工具。
未來AI技術(shù)還有無限的發(fā)展?jié)摿Γ矊ξ覀兊奈磥砩町a(chǎn)生越來越大的影響。