當(dāng)深度學(xué)習(xí)的“魔力”在人工智能研究領(lǐng)域大放異彩之時，許多相關(guān)領(lǐng)域的研究者癡迷于深度學(xué)習(xí)所帶來的驚人的模型效果，卻往往忽略，或是刻意回避了這樣一個現(xiàn)實：經(jīng)過深度學(xué)習(xí)模型得出的結(jié)果，無法用目前所掌握的知識和邏輯去解釋。深度學(xué)習(xí)的模型，就像“黑盒”一般呈現(xiàn)在人們面前，但依然吸引著無數(shù)的研究人員趨之若鶩。

在聯(lián)想人工智能實驗室負(fù)責(zé)人徐飛玉看來，可解釋性的AI（人工智能）是重要的，研究人員不應(yīng)該單純追求模型的精確預(yù)測結(jié)果，而忽略了模型的可解釋性，在25日舉辦的人工智能峰會上，徐飛玉分享了她以及她所帶領(lǐng)的聯(lián)想人工智能實驗室，在可解釋性AI方面所取得的研究成果，在隨后接受騰訊新聞《一線》等媒體的專訪中，徐飛玉進(jìn)一步介紹了她所帶領(lǐng)的聯(lián)想人工智能實驗室在成立兩年來所取得的進(jìn)展以及未來的重點發(fā)展方向。

徐飛玉認(rèn)為，可解釋性AI 對研究人員提出了更大的挑戰(zhàn)，不應(yīng)該只滿足于模型結(jié)果，應(yīng)該進(jìn)一步挖掘背后的機(jī)理，同時可解釋AI對于決策者來說也更加能夠接受，并應(yīng)用到具體的生產(chǎn)經(jīng)營環(huán)節(jié)中。

成立于兩年前的聯(lián)想人工智能實驗室，目標(biāo)定位是做一家世界級的AI研究所，作為領(lǐng)頭人，她并不滿足于僅僅將AI應(yīng)用納入到聯(lián)想自身的生產(chǎn)經(jīng)營體系中，更大的目標(biāo)是能夠?qū)嶒炇业娜斯ぶ悄苎芯磕芰﹂_放出去，賦能更多的企業(yè)和用戶，最終推動社會福祉向前。

可解釋性AI為何重要

“作為科學(xué)家，實際上我對于深度學(xué)習(xí)、黑盒子是不滿足的?！痹诨卮痱v訊新聞《一線》的提問時，徐飛玉說，“如果科學(xué)家只會解決很簡單的問題，那就不是科學(xué)家了?！?/p>

在當(dāng)天的演講中，徐飛玉表示，目前的深度神經(jīng)網(wǎng)絡(luò)對人類來說還是一個“黑盒子”，導(dǎo)致人類不敢用、不能用，阻礙了人工智能的落地和商業(yè)化。因此，可解釋性對機(jī)器學(xué)習(xí)，特別是深度學(xué)習(xí)是一個很大的挑戰(zhàn)。

“只有人類理解了AI的決策過程，才能將其應(yīng)用在更廣泛的社會場景中?！毙祜w玉說。

在接下來的專訪環(huán)節(jié)，徐飛玉進(jìn)一步解釋了她所理解的解釋性AI為何重要。以聯(lián)想自己為例，人工智能實驗室會于業(yè)務(wù)集團(tuán)進(jìn)行合作，當(dāng)通過深度學(xué)習(xí)模型預(yù)測出，某個生產(chǎn)基地的某個部件的供應(yīng)量需要提高1%或降低1%，在與供應(yīng)鏈管理的具體決策者提出時，便需要能夠解釋，為何要提高或降低這1%，這一關(guān)鍵決策會直接影響到最終的生產(chǎn)、銷售環(huán)節(jié)，如果最后終端用戶需求達(dá)不到滿足，相應(yīng)的負(fù)責(zé)人就需要承擔(dān)責(zé)任。

只有當(dāng)預(yù)測出結(jié)果的模型能夠被清晰地解釋時，才能夠真正被相關(guān)決策者所接受，并最終實現(xiàn)模型最初所期望達(dá)到的目標(biāo)。

另外在醫(yī)療領(lǐng)域，越來越多的人工智能技術(shù)開始運用到醫(yī)療診斷過程中，如果無法向醫(yī)生解釋診斷結(jié)果，也會影響這一技術(shù)最終的應(yīng)用。

“和人的生命健康有關(guān)系的那個黑盒子有可能不是一個大眾能夠接受的狀態(tài)。”徐飛玉說，她認(rèn)為，在可解釋性方面，首先需要把“黑盒子”打開，其次是讓“黑盒子”里面的神經(jīng)產(chǎn)生語義，知道里面說的是什么意思，第三個是生成一些解釋給醫(yī)生。

聯(lián)想從事人工智能研究的獨特定位與優(yōu)勢

人工智能的重要性不言而喻，在某種程度上，掌握了人工智能，便掌握了未來科技行業(yè)發(fā)展的制高點，聯(lián)想在2017年3月成立了人工智能實驗室，目的也是為了在這一領(lǐng)域占的先機(jī)。徐飛玉作為該實驗室的負(fù)責(zé)人，對于實驗室的定位和發(fā)展方向有著明確的把握，在專訪過程中，徐飛玉介紹，目前該實驗室覆蓋的研究領(lǐng)域包括自然語言處理（NLP）、語音識別、計算機(jī)視覺、機(jī)器學(xué)習(xí)及智慧數(shù)據(jù)、AI訓(xùn)練平臺及AI開放創(chuàng)新平臺。

在這些研究領(lǐng)域的基礎(chǔ)上，聯(lián)想目前已經(jīng)形成了人工智能的創(chuàng)新生態(tài)，即通過學(xué)術(shù)合作，將技能、專業(yè)知識和技術(shù)傳導(dǎo)至人工智能實驗室，充分利用聯(lián)想設(shè)備獲取的大數(shù)據(jù)進(jìn)行相關(guān)研究并部署到聯(lián)想云上，并向商業(yè)合作伙伴提供智能設(shè)備、智能云和智能服務(wù)等，同時，與合作伙伴合作所獲得的大數(shù)據(jù)，又能反哺聯(lián)想人工智能的研究，形成正向良性循環(huán)。

在業(yè)界各大公司紛紛設(shè)立自己的人工智能實驗室的趨勢下，聯(lián)想的人工智能實驗室卻展現(xiàn)出了其獨特性，在回答騰訊新聞《一線》的提問時，徐飛玉表示，對于聯(lián)想這樣一個在個人電腦領(lǐng)域全球第一的公司，AI Lab設(shè)立的目標(biāo)定位從一開始就是三個“Pro”，即“Product”（產(chǎn)品、服務(wù)）、“Process”（流程）和“Promotion”（宣傳）。

首先從產(chǎn)品端來看，聯(lián)想的人工智能技術(shù)有語音技術(shù)、自然語言分析技術(shù)、計算機(jī)視覺技術(shù)，這些技術(shù)可以讓聯(lián)想的設(shè)備、PC和手機(jī)在人機(jī)交互方面做得更好。這運用到了兩個非常重要的技術(shù)，即：多媒體和多模型交互。從軟件和硬件解決方案兩方面，人工智能對于像聯(lián)想這樣的公司非常重要。

其次對于業(yè)務(wù)流程，聯(lián)想最顯著的一個例子是，運用機(jī)器學(xué)習(xí)或者是可解釋的人工智能技術(shù)，幫助各層級的供應(yīng)鏈管理做得更好。

“聯(lián)想是一個典型的IT制造型公司，如果我們的process做得很好，可以為公司省很多成本?！毙祜w玉說。

她表示，在供應(yīng)鏈方面，一般公司50%到70%的資金流都有可能被供應(yīng)鏈占據(jù)。這部分的優(yōu)化，能夠使得成本和效率得到顯著提升。

第三在宣傳方面，徐飛玉表示，聯(lián)想的“promotion”部分也很智能。不管是谷歌、阿里、百度、IBM，還是AlphaGo或者是IBM沃森，都有很好的promotion手段。

“我一直對聯(lián)想AI Lab團(tuán)隊有一個要求：雖然我們的團(tuán)隊很年輕，但是一定要把成為世界級AI實驗室作為我們的目標(biāo)。”徐飛玉說。

她認(rèn)為，盡管現(xiàn)在做人工智能的技術(shù)門檻比以前要簡單很多，因為有很多開源技術(shù)，但聯(lián)想AI Lab的定位是做一個世界級的AI實驗室，參加國際競爭。

“我對團(tuán)隊平常工作的要求也很高。直接的結(jié)果就是給公司一個很好的Promotion。所以聯(lián)想AI Lab和其他公司不一樣的是，聯(lián)想AI Lab的目標(biāo)是把聯(lián)想的產(chǎn)品做得更加智能，并創(chuàng)造新的智能產(chǎn)品，第二個是幫助公司實現(xiàn)智能化變革，第三是讓整個聯(lián)想文化變成data driven smart（數(shù)據(jù)驅(qū)動智能）的文化。”徐飛玉說。

從事人工智能研究須將社會福祉考慮進(jìn)來

在信息時代，數(shù)據(jù)隱私已經(jīng)成為一個繞不開的話題，對于人工智能研究而言，掌握大量的數(shù)據(jù)是進(jìn)行研究的前提和基礎(chǔ)，如何平衡好數(shù)據(jù)隱私保護(hù)與研究的關(guān)系，徐飛玉在專訪中強(qiáng)調(diào)，作為科學(xué)家乃至整個公司，在進(jìn)行人工智能研究時，必須促進(jìn)人類社會福祉這一重要因素考慮進(jìn)來。

“研發(fā)人員不是在一個真空的世界里做研發(fā)，應(yīng)該知道我們生活在一個什么樣的環(huán)境中，”徐飛玉說，“不管是個人，還是安全，還是可解釋的人工智能，都必須成為我們研發(fā)人員應(yīng)該有的意識?！?/p>

在獲取數(shù)據(jù)方面，徐飛玉認(rèn)為，如果是為了讓研發(fā)項目做得更快，當(dāng)然是數(shù)據(jù)越多越好、數(shù)據(jù)孤島越少越好，但是另一方面，需要考慮到監(jiān)管和法律框架的影響。

但同時，許多領(lǐng)域由于法律制度還不健全，實際上阻礙了人工智能的應(yīng)用對于該領(lǐng)域的貢獻(xiàn)，例如在醫(yī)療領(lǐng)域，其實很多數(shù)據(jù)根本沒有打通，一個醫(yī)院里面可能部門和部門之間的數(shù)據(jù)都沒有打通。

“但是，如果要做罕見病的研究，有可能中國有100例，德國有20例，美國有10例，這個時候為了人類的發(fā)展、人類的進(jìn)步、醫(yī)療的進(jìn)步，這些數(shù)據(jù)應(yīng)該是被打通的，且必須打通，我覺得任何最終的發(fā)展都要為人類服務(wù)?！毙祜w玉說。

她提到另一個例子是肝病的相關(guān)數(shù)據(jù)，中國是世界肝病第一大國，肝病是全世界第三大的腫瘤，中國有如此多的數(shù)據(jù)，通過中國人和專家的經(jīng)驗知識，完全可以賦能國際醫(yī)療研究。

徐飛玉認(rèn)為，在這部分可能不只是一個企業(yè)，還需要一個國家或者是整個學(xué)術(shù)的合作才能建立起來。

“我很高興地看到中國在率先做這個事情，即國家級的開放創(chuàng)新平臺，這個平臺也是全世界最先進(jìn)的平臺。聯(lián)想也愿意貢獻(xiàn)開放創(chuàng)新平臺生態(tài)和算法模型，賦能整個社會和全世界?！毙祜w玉說。