增強(qiáng)機(jī)器學(xué)習(xí)AI技術(shù)的安全性和靈活性 開創(chuàng)下一代AI算法和應(yīng)用
美國國防部預(yù)先研究計(jì)劃局(DARPA)于2018年9月宣布啟動(dòng)“AI Next”(下一代人工智能)項(xiàng)目,并計(jì)劃在未來五年內(nèi)為此投資20億美元,用于構(gòu)建能夠進(jìn)行類似人類交流和邏輯推理的人工智能工具。AI Next項(xiàng)目基于DARPA過去60年引領(lǐng)開發(fā)的兩代人工智能技術(shù),強(qiáng)調(diào)AI的“環(huán)境自適應(yīng)”能力,探索的主要領(lǐng)域包括:促使國防部關(guān)鍵業(yè)務(wù)流程自動(dòng)化的新技術(shù);提高AI系統(tǒng)的魯棒性和可靠性;增強(qiáng)機(jī)器學(xué)習(xí)和AI技術(shù)的安全性和靈活性;降低功耗,避免數(shù)據(jù)和性能效率低下;開創(chuàng)下一代AI算法和應(yīng)用。
在美國白宮“人工智能國家戰(zhàn)略”部署下,聯(lián)邦機(jī)構(gòu)加大了人工智能的推進(jìn)力度,五角大樓的研究機(jī)構(gòu)正努力將這項(xiàng)技術(shù)推向新高潮。
2019年3月8日,DARPA國防科學(xué)辦公室負(fù)責(zé)人接受國外媒體Nextgov專訪時(shí),介紹了下一代人工智能工作的進(jìn)展。
專訪內(nèi)容如下:
Nextgov:AI Next的最終目標(biāo)是什么?
Browning:AI Next計(jì)劃的大目標(biāo)是將機(jī)器從工具(也許是非常有價(jià)值的工具)真正變成值得信賴的合作伙伴。我們肯定希望一個(gè)值得信賴的合作伙伴能夠擁有一定的能力和常識(shí)。比如說,有一定能力識(shí)別新情況,并在新情況下表現(xiàn)得恰當(dāng),并且當(dāng)你可能沒有足夠經(jīng)驗(yàn)或訓(xùn)練來面對(duì)新情況時(shí),讓你也能意識(shí)到這一點(diǎn)。這些就是我們真正追求的目標(biāo)。支持機(jī)器學(xué)習(xí)的AI雖然可以很好地完成某些任務(wù):圖像分類、語音識(shí)別、自然語言處理、統(tǒng)計(jì)模式識(shí)別,但我們清楚AI有時(shí)候會(huì)以意想不到的方式失效,而我們卻總是無法準(zhǔn)確地進(jìn)行預(yù)測(cè)。
(圖片來源:DARPA官網(wǎng))
Nextgov:現(xiàn)在的人工智能與DARPA試圖創(chuàng)建的人工智能之間最大的差距是什么?
Browning:實(shí)際上,人工智能會(huì)犯人類不會(huì)犯的錯(cuò)誤。比如,在圖像分類中,機(jī)器只要看到熊貓的圖片就會(huì)將其識(shí)別為熊貓,但是你只需對(duì)人眼無法識(shí)別的像素進(jìn)行一些微小的更改,機(jī)器就會(huì)將其歸類為長(zhǎng)臂猿或者其它動(dòng)物。我們需要構(gòu)建具有一定內(nèi)省能力的人工智能系統(tǒng),當(dāng)其被指定任務(wù)時(shí),它們可以與人類合作伙伴進(jìn)行溝通:“基于我的訓(xùn)練和經(jīng)驗(yàn),你應(yīng)該對(duì)我有信心,我可以做到這一點(diǎn)”或者“我以前沒有遇到過這種情況,我無法以你希望的方式處理這種情況”。那么問題來了,我們?nèi)绾尾拍芨臁⒏玫赜?xùn)練,而不需要費(fèi)力地將海量的數(shù)據(jù)集進(jìn)行手工標(biāo)注?如果我們不用把整個(gè)宇宙的訓(xùn)練數(shù)據(jù)必須投入到AI系統(tǒng),那不是很好嗎?
Nextgov:像人工智能探索計(jì)劃(AI Exploration)這種快速、短期的資金有哪些益處?
Browning:因?yàn)槲覀兊馁Y源有限,有時(shí)候我們會(huì)發(fā)現(xiàn)一個(gè)領(lǐng)域,我們認(rèn)為投資時(shí)機(jī)已經(jīng)成熟,但是得先解決一些關(guān)鍵問題。我們其實(shí)不想把項(xiàng)目擴(kuò)展得很大,但我們想要快速獲得一些答案。通過傳統(tǒng)的采購流程引入新項(xiàng)目是非常漫長(zhǎng)的,針對(duì)這個(gè)計(jì)劃,從發(fā)布主題通告到實(shí)際操作的時(shí)間是90天或更短,這在政府合同中幾乎是前所未有的。AI ExploraTIon計(jì)劃讓我們能夠快速定位一些風(fēng)險(xiǎn)更高、更不確定的地方,并判斷它們是否正處于實(shí)現(xiàn)最終目標(biāo)的關(guān)鍵路徑上。
Nextgov:那現(xiàn)在有哪條路看起來更具前途嗎?
Browning:人工智能物理學(xué),最早開始的領(lǐng)域之一。我想我們很快就會(huì)發(fā)現(xiàn)該領(lǐng)域是否存在真正明確的應(yīng)用。我是說在幾個(gè)月內(nèi),而不是幾年。
Nextgov:您對(duì)白宮的“人工智能國家戰(zhàn)略”有何看法?有一種很尖銳的批評(píng)稱:這個(gè)戰(zhàn)略并沒有提供很多具體的指導(dǎo)或資金。
Browning:我認(rèn)為正確的事情正在被優(yōu)先考慮。要?jiǎng)?chuàng)新,我們必須投資,我們必須成為世界領(lǐng)先者?,F(xiàn)在存在的挑戰(zhàn)是:如何確保我們擁有人力和人力資本,以保證我們采用正確的科學(xué)、技術(shù)、工程、數(shù)學(xué)(STEM)方法,確保我們?cè)诓欢髿?chuàng)新的同時(shí)保護(hù)技術(shù)優(yōu)勢(shì)。這些是我認(rèn)為重要的東西?!叭斯ぶ悄車覒?zhàn)略”確實(shí)要求所有機(jī)構(gòu)在制定預(yù)算時(shí),將這一點(diǎn)作為優(yōu)先事項(xiàng),但我認(rèn)為我們并不清楚預(yù)算到底有多少。與其關(guān)注預(yù)算多少,更明智的做法應(yīng)該是提出正確的問題,并將正確的資源用于提出的這些問題上面。
Nextgov:和類似中國這樣的全球競(jìng)爭(zhēng)對(duì)手相比,您認(rèn)為美國政府目前在這方面投入的資源是否足夠?
Browning:這個(gè)很難比較。資金既可以得到很好的利用,也可以浪費(fèi)。從DARPA的角度來看,我認(rèn)為五年內(nèi)20億美元的承諾是合適的,這個(gè)資金水平允許我們以適當(dāng)?shù)乃俣韧苿?dòng)項(xiàng)目。DARPA對(duì)AI Next活動(dòng)的目標(biāo)一直非常明確,我不知道怎么與中國做比較。
Nextgov:最近五角大樓與微軟和谷歌等科技公司之間的關(guān)系緊張。您認(rèn)為科技行業(yè)應(yīng)該在政府的人工智能開發(fā)中發(fā)揮怎樣的作用?
Browning:我認(rèn)為DARPA可以幫助創(chuàng)建一個(gè)非常有活力的承包商生態(tài)系統(tǒng)。我們可以尊重大公司關(guān)于他們是否愿意與國防部合作的立場(chǎng)。我們根本不會(huì)低估他們?cè)谶@項(xiàng)工作中的作用,但是……我們會(huì)繼續(xù)和我們已經(jīng)參與的團(tuán)體一起進(jìn)行創(chuàng)新。既然我們已經(jīng)推出了這些新計(jì)劃,就不缺好創(chuàng)意。