在網(wǎng)絡(luò)安全的世界里，防御端和攻擊端的人工智能攻防前哨站已經(jīng)打響，換句話說，對黑客來講，人工智能不僅可以提高攻擊效率，面對人工智能系統(tǒng)，他們也可以通過污染訓(xùn)練數(shù)據(jù)進(jìn)行相關(guān)操作。

隨著現(xiàn)代威脅形勢的不斷擴(kuò)大，將人工智能（AI）添加到安全策略中，對于建立和維持有效的安全狀態(tài)變得至關(guān)重要。鑒于現(xiàn)代網(wǎng)絡(luò)威脅的速度和復(fù)雜性以及當(dāng)前網(wǎng)絡(luò)安全技能的短缺，網(wǎng)絡(luò)安全團(tuán)隊需要機(jī)器學(xué)習(xí)和其他基于AI的功能的幫助，以便檢測、保護(hù)和緩解現(xiàn)代攻擊。

然而，當(dāng)企業(yè)采用人工智能來加強(qiáng)他們的安全工作時，網(wǎng)絡(luò)犯罪分子也會采用敏捷軟件開發(fā)，自動化和機(jī)器學(xué)習(xí)之類的東西，來潛在地利用人工智能來更好地識別和更快地利用網(wǎng)絡(luò)漏洞，這一點(diǎn)也不足為奇。

實際上，由于越來越多的物聯(lián)網(wǎng)和運(yùn)營設(shè)備進(jìn)入網(wǎng)絡(luò)基礎(chǔ)設(shè)施，網(wǎng)絡(luò)犯罪分子已經(jīng)有機(jī)會和能力發(fā)起快速且復(fù)雜的攻擊，而這些固有的易受攻擊的設(shè)備，將成為企業(yè)網(wǎng)絡(luò)的入口通道。人工智能所帶來的潛在攻擊能力，只會進(jìn)一步加劇對當(dāng)今數(shù)字化轉(zhuǎn)型工作的威脅。

因此，人工智能可能很快就會提供成功保護(hù)或攻擊物聯(lián)網(wǎng)的方法，以便有效地在網(wǎng)絡(luò)安全專業(yè)人員和網(wǎng)絡(luò)犯罪分子之間建立AI軍備競賽。

為了保護(hù)數(shù)字化轉(zhuǎn)型并保持嚴(yán)格的安全狀態(tài)，IT團(tuán)隊必須了解網(wǎng)絡(luò)犯罪策略的最新變化，這些變化可能會在未來幾年內(nèi)導(dǎo)致AI驅(qū)動的威脅環(huán)境。他們還需要了解現(xiàn)在可以將哪些AI功能合并到他們的安全堆棧中，以便在他們的網(wǎng)絡(luò)不斷發(fā)展和擴(kuò)展時保持一致的安全狀態(tài)。

不過，在AI防御開始之前，人工智能網(wǎng)絡(luò)攻擊也不能被忽視。

Koos Lodewijkx，IBM Security 的CTO兼VP曾分享到，目前至少有三種與人工智能相關(guān)的網(wǎng)絡(luò)安全攻擊手段。

首先是利用人工智能提高攻擊效率。比如，現(xiàn)在黑客可以通過機(jī)器學(xué)習(xí)，分析社群媒體上的訊息、朋友圈等，依照這些個人化信息發(fā)起針對性攻擊，提高釣魚攻擊成功率。此外，現(xiàn)在網(wǎng)絡(luò)上也出現(xiàn)通過機(jī)器學(xué)習(xí)以及可自動識別圖像的免費(fèi)軟件，讓黑客可破解用來防御自動化攻擊的驗證碼機(jī)制。

其次是黑客攻擊AI系統(tǒng)。這是以一種改變系統(tǒng)的方法進(jìn)行攻擊，簡單來說就是污染AI系統(tǒng)，或是找到AI系統(tǒng)弱點(diǎn)、繞過防御以進(jìn)行攻擊。以微軟在2016年推出聊天機(jī)器人Tay為例。網(wǎng)絡(luò)罪犯可以借助機(jī)器學(xué)習(xí)技術(shù)讓它在每次的對話中改變回復(fù)話語，以至于該機(jī)器人在上線24小時候就出現(xiàn)了種族歧視的言論。其實不僅僅是聊天機(jī)器人，Lodewijkx表示，現(xiàn)在的技術(shù)也能做到入侵語音識別系統(tǒng)，只要在聲音中插入噪音，就能徹底改變翻譯結(jié)果，讓機(jī)器說出特定語句。

雖然這些看似無傷大雅，但由于AI已經(jīng)被企業(yè)大量用于商業(yè)營運(yùn)中，一旦被黑客知道模型如何訓(xùn)練和運(yùn)作，就能借此機(jī)會破壞訓(xùn)練模型的數(shù)據(jù)來操控模型。比如，銀行把AI導(dǎo)入借貸決策系統(tǒng)來分析申請人的收入、年齡、居住地、信用分?jǐn)?shù)等，以決定是否批準(zhǔn)該借貸，一旦找到方法繞過偵測，就算有很差的信用分?jǐn)?shù)仍可貸款成功。

至于最后一種攻擊手段，黑客看重的不是模型本身，而是用來訓(xùn)練AI模型背后的數(shù)據(jù)。Lodewijkx表示，黑客已經(jīng)可以竊取訓(xùn)練AI模型背后的數(shù)據(jù)。以圖像識別系統(tǒng)為例，正常情況是，給出圖片后，系統(tǒng)可以識別出人名，而在破解系統(tǒng)后，黑客只要擁有姓名，就能逆向重建圖片。

不只是攻擊端，AI之于網(wǎng)絡(luò)安全防御，也是不可或缺的角色，以IBM為例，該公司旗下的網(wǎng)絡(luò)安全產(chǎn)品幾乎已全面接入人工智能。那為什么要用人工智能進(jìn)行防御？

首先，Lodewijkx指出，現(xiàn)在的資料數(shù)量龐大，來自網(wǎng)絡(luò)、計算機(jī)系統(tǒng)、數(shù)據(jù)庫等等，隨之而來的是資料、威脅、環(huán)境都變得更復(fù)雜。在這種情況下，卻面臨網(wǎng)絡(luò)安全技術(shù)人才的短缺問題。IBM的一項調(diào)查指出，到2022年，網(wǎng)絡(luò)安全領(lǐng)域會有180萬份的人才短缺。這也是為什么需要在網(wǎng)絡(luò)安全工具中導(dǎo)入AI，而AI也能提高偵測和反應(yīng)的速度，降低損失。

就目前的情況而言，最常見的AI應(yīng)用是預(yù)測分析（predictive analyTIcs），也就是借助機(jī)器學(xué)習(xí)分析大量數(shù)據(jù)，從中找出異常。舉個例子，利用人工智能監(jiān)控網(wǎng)絡(luò)流量或使用者行為，找出不尋常的地方，或是觀察人類如何和計算機(jī)或手機(jī)互動，進(jìn)而辨別出這是真正的人類、還是假裝成人類的惡意軟件。此外，也能找出假的威脅警報，降低誤報率。

第二個層面是智能強(qiáng)化（Intelligence consolidaTIons），也就是把網(wǎng)絡(luò)安全研究工作交給AI?，F(xiàn)在，IBM正在教旗下人工智能平臺Watson讀網(wǎng)絡(luò)安全方面的新聞、研究報告以及Twitter等，進(jìn)而建立知識圖譜，并找出每個知識間的關(guān)聯(lián)性。訓(xùn)練完成后，當(dāng)告訴Watson一個IP位址、網(wǎng)址或檔案，Watson就可以及時給出該檔案的相關(guān)信息，減輕分析師的工作，讓他們不必親自去讀取大量資料。

第三種則是智能回應(yīng)（intelligence response），其目標(biāo)在于提高一定時間內(nèi)的分析效率。Lodewijkx指出，以網(wǎng)絡(luò)安全營運(yùn)中心為例，分析師有58%的時間都是花在重復(fù)性工作上。舉例來說，當(dāng)網(wǎng)絡(luò)安全監(jiān)測系統(tǒng)發(fā)出警告時，分析師必須比對不同的應(yīng)用程序、數(shù)據(jù)庫和系統(tǒng)，確認(rèn)該警示是否為真，鑒于這些步驟是固定的，所以很適合自動化。

不過，盡管現(xiàn)在很多人工智能技術(shù)已經(jīng)被用于網(wǎng)絡(luò)安全產(chǎn)品，但我們也不能認(rèn)為人工智能可以解決所有的網(wǎng)絡(luò)安全問題，至少現(xiàn)在距離這一目標(biāo)還有很長的路要走。而隨著智慧城市、工業(yè)互聯(lián)網(wǎng)、自動駕駛等將在未來十年普及，人工智能安全將成為產(chǎn)業(yè)發(fā)展的藍(lán)海。在這種情況下，運(yùn)用人工智能賦能網(wǎng)絡(luò)空間安全也變得十分必要。

與此同時，面對技術(shù)規(guī)范、行業(yè)標(biāo)準(zhǔn)、法律法規(guī)尚未健全的人工智能新領(lǐng)域，制定統(tǒng)一的安全監(jiān)測標(biāo)準(zhǔn)、安全防范架構(gòu)、安全評估體系對于讓網(wǎng)絡(luò)空間安全成為人工智能的重要應(yīng)用領(lǐng)域也有舉足輕重的作用?？梢哉f，隨著人工智能技術(shù)日趨成熟，人工智能在“AI+安全”領(lǐng)域不僅能夠全面提高網(wǎng)絡(luò)空間各類威脅的響應(yīng)和應(yīng)對速度，而且能夠全面提高風(fēng)險防范的預(yù)見性和準(zhǔn)確性。