在人工智能時(shí)代，網(wǎng)絡(luò)安全問(wèn)題備受關(guān)注。對(duì)此，安全研究人員轉(zhuǎn)向了機(jī)器學(xué)習(xí)。機(jī)器學(xué)習(xí)的確提供了強(qiáng)有力的幫助，但在當(dāng)前網(wǎng)絡(luò)攻防態(tài)勢(shì)下，機(jī)器學(xué)習(xí)也難以“一肩挑”。

在人工智能時(shí)代，各行各業(yè)最怕聽(tīng)到的是“取代”：人工智能被認(rèn)為將一步取代法官、取代速記員，取代建筑工人和出租車(chē)司機(jī)……不過(guò)，目前在許多行業(yè)，人工智能仍然只能扮演配角，網(wǎng)絡(luò)安全就是目前人工智能尚難解決的問(wèn)題之一。

對(duì)此，安全研究人員轉(zhuǎn)向了機(jī)器學(xué)習(xí)——人工智能的一種形式。對(duì)于機(jī)器學(xué)習(xí)來(lái)講，最主要的兩個(gè)概念分別是“有監(jiān)督學(xué)習(xí)”和“無(wú)監(jiān)督學(xué)習(xí)”。有監(jiān)督學(xué)習(xí)就是人們“告訴”機(jī)器“哪些數(shù)據(jù)是屬于哪一類(lèi)的”，然后進(jìn)行數(shù)據(jù)訓(xùn)練；反之，無(wú)監(jiān)督學(xué)習(xí)就是“不告訴”機(jī)器，直接由人們對(duì)最終輸出的結(jié)果進(jìn)行定義。

之前，機(jī)器學(xué)習(xí)只是一個(gè)很有希望但并不成熟的技術(shù)，但在過(guò)去五年，機(jī)器學(xué)習(xí)獲得了長(zhǎng)足的進(jìn)步，在很多任務(wù)上，機(jī)器學(xué)習(xí)這項(xiàng)技術(shù)都可以達(dá)到與人類(lèi)接近的水平。

遭遇新軟件時(shí)，機(jī)器學(xué)習(xí)系統(tǒng)會(huì)計(jì)算其是惡意軟件的概率，根據(jù)既定閾值進(jìn)行屏蔽或放行。若有惡意軟件潛入，只需調(diào)整計(jì)算或重設(shè)閾值即可。時(shí)不時(shí)地，研究人員就會(huì)用新行為訓(xùn)練機(jī)器學(xué)習(xí)算法。

業(yè)內(nèi)人士也表示，“在處理財(cái)務(wù)數(shù)據(jù)時(shí)，機(jī)器學(xué)習(xí)可以解決匹配客戶(hù)聯(lián)系方式、地址或從數(shù)據(jù)中發(fā)現(xiàn)趨勢(shì)的經(jīng)典問(wèn)題。你訓(xùn)練的應(yīng)用程序越‘理解’數(shù)據(jù)，你得出的分析和預(yù)測(cè)結(jié)果就越準(zhǔn)確?！?/p>

盡管機(jī)器學(xué)習(xí)在網(wǎng)絡(luò)安全方面已經(jīng)具備一定的防御能力，但是也存在漏洞。在成都召開(kāi)的C3安全峰會(huì)上，亞信安全通用安全產(chǎn)品中心總經(jīng)理、亞信網(wǎng)絡(luò)安全產(chǎn)業(yè)技術(shù)研究院副院長(zhǎng)童寧表示，機(jī)器學(xué)習(xí)的確提供了強(qiáng)有力的幫助，但在當(dāng)前網(wǎng)絡(luò)攻防態(tài)勢(shì)下，機(jī)器學(xué)習(xí)也難以“一肩挑”。

其實(shí)，機(jī)器學(xué)習(xí)所存在的問(wèn)題并非近期才出現(xiàn)。早在眾多關(guān)于機(jī)器學(xué)習(xí)的相關(guān)論文中，研究者們就曾多次提出機(jī)器學(xué)習(xí)的不準(zhǔn)確性——對(duì)某些像素進(jìn)行微調(diào)，就能欺騙神經(jīng)網(wǎng)絡(luò)。原因在于：雖然這些復(fù)雜的網(wǎng)絡(luò)由多層處理器組成，但各個(gè)層面本質(zhì)上都是通過(guò)分段線性函數(shù)來(lái)轉(zhuǎn)換輸入內(nèi)容的，這種線性使得相關(guān)模型對(duì)推論容易盲從。

在某些情況下，通過(guò)惡意輸入，機(jī)器學(xué)習(xí)算法可能在訓(xùn)練期間“中毒”，或者在訓(xùn)練之后被復(fù)制。通過(guò)對(duì)圖像進(jìn)行人眼幾不可見(jiàn)的微小改變，黑客可以愚弄視覺(jué)處理系統(tǒng)，對(duì)其進(jìn)行欺騙。

此外，惡意軟件作者也可獲得這些安全工具，調(diào)整自己的代碼，查看能否規(guī)避檢測(cè)。有些網(wǎng)站已提供了用主流安全系統(tǒng)檢測(cè)軟件的接口。最終，惡意軟件作者會(huì)開(kāi)始創(chuàng)建他們自己的機(jī)器學(xué)習(xí)模型，對(duì)戰(zhàn)安全人工智能。