2018年9月，《人工智能安全發(fā)展上海倡議》在世界人工智能大會期間發(fā)布。倡議提出，人工智能發(fā)展需要保障用戶的數(shù)據(jù)安全，不得以犧牲用戶隱私為代價，需要加強(qiáng)數(shù)據(jù)保護(hù)立法，豐富人工智能的技術(shù)路線，不斷強(qiáng)化人工智能應(yīng)用中的用戶隱私保護(hù)。

新興技術(shù)的發(fā)展往往是一把“雙刃劍”，在AI驅(qū)動社會各領(lǐng)域發(fā)展的同時，作為AI技術(shù)的關(guān)鍵因素——數(shù)據(jù)也成為重點(diǎn)保護(hù)對象。

歐洲市場研究和咨詢服務(wù)公司kbvresearch曾發(fā)布預(yù)測報告指出，數(shù)據(jù)安全市場將以每年18%的復(fù)合增長率發(fā)展，估計2023年將達(dá)到209億美元;若以在2023年達(dá)到全球20%的GDP來估算，中國市場規(guī)模將達(dá)到約400億元人民幣，未來人工智能在數(shù)據(jù)安全治理領(lǐng)域仍存在很大應(yīng)用潛力。

硬幣的兩面

上海電氣風(fēng)電iwind數(shù)據(jù)中心內(nèi)，大屏幕上實(shí)時顯示全國5500多臺風(fēng)機(jī)的情況，這些顏色不一的風(fēng)機(jī)有不同的含義。

上海電氣集團(tuán)數(shù)字科技有限公司總經(jīng)理程艷對記者介紹，不同的顏色代表每臺風(fēng)機(jī)的發(fā)電性能健康值，綠色是正常運(yùn)行，黃色表示處于報警狀態(tài)，白色則是還沒上傳最新健康數(shù)據(jù)。有了這些實(shí)時數(shù)據(jù)，他們就不用像以前一樣用人工來完成每半年或一年一次的檢修了。

“臺風(fēng)天這些風(fēng)機(jī)也會進(jìn)行自我預(yù)判，根據(jù)臺風(fēng)路徑提前幾小時停止運(yùn)轉(zhuǎn)避免損傷。”該數(shù)據(jù)中心的技術(shù)人員告訴記者。

大數(shù)據(jù)分析和AI技術(shù)的運(yùn)用不僅僅只出現(xiàn)在工業(yè)領(lǐng)域。從帶有虹膜識別的安防攝像頭，到裝載有Autopilot(自動輔助駕駛)的自動駕駛汽車，AI技術(shù)的運(yùn)用已經(jīng)像水和電一樣開始滲透至經(jīng)濟(jì)社會發(fā)展的各個方面。

這些AI運(yùn)用的基礎(chǔ)，除了底層算法的搭建，更重要的還是數(shù)據(jù)的運(yùn)用。但技術(shù)運(yùn)用的不確定性也會產(chǎn)生連帶的隱患。

2018年曝光的“Facebook數(shù)據(jù)泄露”事件中，美國劍橋分析公司利用廣告定向、行為分析等智能算法，推送虛假廣告;去年8月，騰訊安全團(tuán)隊發(fā)現(xiàn)亞馬遜智能音箱后門，可實(shí)現(xiàn)遠(yuǎn)程竊聽并錄音……

中國信息通信研究院近日發(fā)布的《人工智能數(shù)據(jù)安全白皮書》(下稱“白皮書”)也顯示，人工智能應(yīng)用可導(dǎo)致個人數(shù)據(jù)過度采集，加劇隱私泄露風(fēng)險。隨著各類智能設(shè)備(如智能手環(huán)、智能音箱)和智能系統(tǒng)(如生物特征識別系統(tǒng)、智能醫(yī)療系統(tǒng))的應(yīng)用普及，人工智能設(shè)備和系統(tǒng)對個人信息采集更加直接與全面。

相較于互聯(lián)網(wǎng)對用戶上網(wǎng)習(xí)慣、消費(fèi)記錄等信息采集，人工智能應(yīng)用可采集用戶人臉、指紋、聲紋、虹膜、心跳、基因等具有強(qiáng)個人屬性的生物特征信息。這些信息具有唯一性和不變性，一旦被泄露或者濫用會對公民權(quán)益造成嚴(yán)重影響。

“在數(shù)據(jù)安全方面，像上海電氣這種自建內(nèi)網(wǎng)，而且主要是B2B的企業(yè)就比較好。一個企業(yè)或者個人若沒有防護(hù)體系就接入終端，很容易出現(xiàn)安全問題。”中國信通院華東分院首席規(guī)劃師賀仁龍告訴記者，AI技術(shù)在企業(yè)的應(yīng)用中，涉及設(shè)備安全、數(shù)據(jù)安全、控制安全、網(wǎng)絡(luò)安全、應(yīng)用安全五大方面，其中核心是數(shù)據(jù)安全。而這一方面，醫(yī)療領(lǐng)域是高危，例如醫(yī)療設(shè)備因沒有經(jīng)過多番測試導(dǎo)致病人資料泄露。而且造成這類問題，一定程度上是因?yàn)槿狈π畔⒒膶I(yè)人才進(jìn)行防控。

電子科技大學(xué)教授周濤也持同樣看法。他在近日接受第一財經(jīng)記者專訪時表示，在AI時代，醫(yī)療行業(yè)不像防備嚴(yán)格的金融行業(yè)，數(shù)據(jù)外泄是一個非常嚴(yán)重的問題。“所以我們可以嘗試把病人的數(shù)據(jù)進(jìn)行預(yù)脫敏。畢竟名字、電話這種數(shù)據(jù)和病例沒有直接關(guān)系，所以對患者的郵箱、電話、家庭住址等信息進(jìn)行脫敏，也能減少隱私泄露問題。”

完善人工智能治理

隨著世界主要國家把發(fā)展AI作為提升國家競爭力、維護(hù)國家安全的重大戰(zhàn)略，涵蓋技術(shù)產(chǎn)業(yè)和治理的多項(xiàng)規(guī)劃政策也都陸續(xù)出臺。

上海市科學(xué)學(xué)研究所科技發(fā)展研究中心主任王迎春認(rèn)為，當(dāng)前全球的AI競爭從兩個維度上展開，一是搶占技術(shù)和產(chǎn)業(yè)制高點(diǎn)，二是爭奪AI治理規(guī)則的制定權(quán)。“AI正在對經(jīng)濟(jì)發(fā)展、社會進(jìn)步、國際政治經(jīng)濟(jì)格局等方面產(chǎn)生重大而深遠(yuǎn)的影響。需要我們加強(qiáng)AI同社會治理的結(jié)合，加強(qiáng)AI發(fā)展的潛在風(fēng)險研判和防范，加強(qiáng)相關(guān)法律、倫理、社會問題研究，建立健全保障AI健康發(fā)展的法律法規(guī)、制度體系、倫理道德。”

今年2月，美國總統(tǒng)特朗普簽署《美國人工智能倡議》，指出在資源調(diào)配上，聯(lián)邦政府的數(shù)據(jù)、算法和計算機(jī)處理資源將更多向美國人工智能研發(fā)人員和企業(yè)開放，并提出加強(qiáng)對數(shù)據(jù)安全問題的應(yīng)對。此后的6月，美國發(fā)布新版《國家人工智能研究和發(fā)展戰(zhàn)略計劃》，要求所有機(jī)構(gòu)負(fù)責(zé)人審查各自聯(lián)邦數(shù)據(jù)和模型，注重保護(hù)數(shù)據(jù)安全、隱私和機(jī)密性。

去年12月，為落實(shí)《歐盟人工智能戰(zhàn)略》，歐盟發(fā)布《人工智能協(xié)調(diào)計劃》。按照計劃，“人工智能歐洲造”有兩大關(guān)鍵原則：一是“設(shè)計倫理”，即人工智能在設(shè)計進(jìn)程之初就必須在《通用數(shù)據(jù)保護(hù)條例》基礎(chǔ)上，遵守倫理和道德法律原則、競爭法等;二是“設(shè)計安全”，即人工智能在設(shè)計之初必須考慮保護(hù)網(wǎng)絡(luò)安全和有利于相關(guān)執(zhí)法活動的便利化。

同樣的，我國在高度重視數(shù)據(jù)收集以及建設(shè)發(fā)展的同時，也在推進(jìn)AI的安全應(yīng)用，防范AI數(shù)據(jù)風(fēng)險?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018-2020年)》等，都從數(shù)據(jù)開放和數(shù)據(jù)風(fēng)險防范提出了多項(xiàng)規(guī)劃。

尤其是近兩年，不管是國家層面還是行業(yè)層面都動作頻頻。

今年6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能治理的框架和行動指南，明確提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八項(xiàng)原則。百度、阿里、騰訊、曠視科技等企業(yè)也在推動倫理準(zhǔn)則、技術(shù)防護(hù)上有一些具體的舉措。

周濤告訴記者，人工智能治理專業(yè)委員會的建立表明我國已經(jīng)開始認(rèn)真思考這些問題，也是非常負(fù)責(zé)任的做法。“此前關(guān)于數(shù)據(jù)、AI倫理等事件沒有明確的規(guī)定，處于一個自發(fā)的狀態(tài)，通過這個委員則會一步完善。”

不過，白皮書指出，相比一些先進(jìn)國家較早重視人工智能數(shù)據(jù)安全倫理原則，我國相關(guān)倫理原則大多為近期發(fā)布，加之長期以來社會公眾對個人數(shù)據(jù)保護(hù)的意識觀念和重視程度存在較大差異，導(dǎo)致人工智能數(shù)據(jù)安全倫理的社會影響力受限。

王迎春也曾撰文表示，中國應(yīng)堅持技術(shù)、產(chǎn)業(yè)和規(guī)則齊步走，建立更加具有彈性空間的動態(tài)治理機(jī)制，積極在促進(jìn)創(chuàng)新和社會有序演進(jìn)方面實(shí)現(xiàn)動態(tài)平衡，既要呵護(hù)促進(jìn)創(chuàng)新又要防范系統(tǒng)性風(fēng)險，為人工智能健康發(fā)展提供保障。

要努力形成一套務(wù)實(shí)管用、行之有效的方法，對創(chuàng)新高度包容，同時對可能出現(xiàn)的風(fēng)險高度警惕，針對出現(xiàn)的問題加強(qiáng)多部門的協(xié)同治理。

數(shù)字經(jīng)濟(jì)時代，海量的數(shù)據(jù)不僅能助力以深度學(xué)習(xí)為代表的AI算法的設(shè)計與優(yōu)化，更能顯著提升數(shù)據(jù)收集管理能力和數(shù)據(jù)挖掘利用水平。另外，我國目前尚未形成體系完善的人工智能數(shù)據(jù)安全法律法規(guī)，并且數(shù)據(jù)安全和個人信息保護(hù)立法相對滯后，亟須針對當(dāng)前新技術(shù)和新業(yè)態(tài)發(fā)展，加速完成數(shù)據(jù)安全和個人信息保護(hù)的頂層立法，為人工智能健康發(fā)展提供法律支撐。