隨著新科技革命的縱深發(fā)展、智能算法的優(yōu)化升級(jí)，人工智能技術(shù)可能帶來(lái)新的挑戰(zhàn)與治理困境。因此，積極做好人工智能的政策引導(dǎo)與合理規(guī)制，推進(jìn)智能技術(shù)安全風(fēng)險(xiǎn)評(píng)估預(yù)警研究，對(duì)實(shí)現(xiàn)人工智能健康持續(xù)發(fā)展顯得尤為重要。

人工智能技術(shù)應(yīng)用存在風(fēng)險(xiǎn)

人工智能技術(shù)對(duì)于智慧社會(huì)建設(shè)意義非凡。人工智能技術(shù)的繁榮，也離不開(kāi)人類(lèi)社會(huì)的場(chǎng)景應(yīng)用。然而我們?cè)诖罅ν七M(jìn)人工智能與實(shí)際生活接軌時(shí)，必須高度警惕人工智能在技術(shù)應(yīng)用、法律道德以及社會(huì)關(guān)系等領(lǐng)域的潛在風(fēng)險(xiǎn)。

第一，人工智能技術(shù)的場(chǎng)景應(yīng)用風(fēng)險(xiǎn)。目前，人工智能技術(shù)應(yīng)用涉及智慧醫(yī)療、智慧交通、智慧司法及智能教育等方方面面。在智慧交通方面，無(wú)人駕駛技術(shù)不僅提升了駕駛員的安全性，還為其節(jié)省出更多的自由時(shí)間，經(jīng)算法分配可緩解交通擁堵?tīng)顟B(tài)。但無(wú)人駕駛網(wǎng)絡(luò)系統(tǒng)一旦受到黑客或者市場(chǎng)競(jìng)爭(zhēng)對(duì)手的惡意攻擊，極有可能使人類(lèi)生命財(cái)產(chǎn)安全受到巨大威脅。在智慧醫(yī)療方面，人工智能技術(shù)在諸如醫(yī)療輔助機(jī)器、智能藥物研發(fā)、智能醫(yī)學(xué)影響、個(gè)人智能健康管理等智能診療方面發(fā)揮巨大作用。然而當(dāng)前人工智能還處在初級(jí)階段，系統(tǒng)本身存在漏洞，若大面積臨床應(yīng)用易引發(fā)醫(yī)療事故；智慧醫(yī)療一旦發(fā)生醫(yī)患糾紛，就會(huì)存在責(zé)任主體無(wú)法明確的問(wèn)題。在智慧司法領(lǐng)域，人工智能技術(shù)已得到初步推廣，最高人民法院與最高人民檢察院分別提出“智慧法院”和“智慧檢務(wù)”?！斗ㄖ嗡{(lán)皮書(shū)·中國(guó)法院信息化發(fā)展報(bào)告（2019）》也指出，智慧法院在“信息化助理司法為民”“信息化輔助審判執(zhí)行和司法管理”和“信息化服務(wù)國(guó)家社會(huì)”三大方面全面推進(jìn)。但是人工智能技術(shù)并不能完全取代司法工作者，它消解司法的本質(zhì)和法官的主體性。另外，人工智能技術(shù)的算法存在“黑箱”缺乏有效監(jiān)督，無(wú)法保證審判結(jié)果的公正、客觀，難以使人信服，甚至出現(xiàn)人工智能技術(shù)下的冤假錯(cuò)案。

第二，人工智能技術(shù)背后的法律道德風(fēng)險(xiǎn)?！翱茖W(xué)技術(shù)本身是中性的，無(wú)所謂善惡，科技對(duì)人類(lèi)及環(huán)境的負(fù)責(zé)作用完全是人類(lèi)自身的責(zé)任?！比斯ぶ悄芗夹g(shù)在法律道德方面同樣面臨風(fēng)險(xiǎn)。首先，人工智能領(lǐng)域的立法相對(duì)滯后。技術(shù)壁壘、現(xiàn)實(shí)不對(duì)稱(chēng)以及法律的權(quán)威性等原因，造成了人工智能領(lǐng)域的立法滯后。在民法、知識(shí)產(chǎn)權(quán)法、交通法以及刑法等諸多領(lǐng)域，不僅缺乏有效的法律供給，而且相關(guān)技術(shù)還與現(xiàn)行法律秩序相沖突。其次，個(gè)人隱私和信息安全受到威脅。人工智能技術(shù)的應(yīng)用與發(fā)展，離不開(kāi)對(duì)數(shù)據(jù)的采集與利用，數(shù)據(jù)不斷更新與擴(kuò)張則會(huì)引發(fā)信息泄露、侵犯隱私的風(fēng)險(xiǎn)。最后，人工智能法律倫理方面存在困境。人工智能技術(shù)經(jīng)過(guò)算法的不斷升級(jí)換代，或許可完全繞過(guò)人腦固有的思維方式，形成“新智能思維”強(qiáng)制模擬人類(lèi)思維，從而使人類(lèi)陷入思維無(wú)法觸及的地帶，達(dá)到新興技術(shù)生命周期的“峽谷”。

第三，由人工智能所引發(fā)的社會(huì)關(guān)系風(fēng)險(xiǎn)。在人工智能時(shí)代，我們需要更加重視兩對(duì)關(guān)系，即人與人關(guān)系、人與機(jī)器的關(guān)系。在人與人關(guān)系方面，隨著人工智能與實(shí)業(yè)相結(jié)合，部分職業(yè)被機(jī)器所取代，傳統(tǒng)行業(yè)面臨重組，從而造成結(jié)構(gòu)性失業(yè)。在人與機(jī)器關(guān)系方面，學(xué)界一直存在爭(zhēng)論。隨著深度學(xué)習(xí)為智能系統(tǒng)不斷優(yōu)化升級(jí)，智能機(jī)器將會(huì)在某些領(lǐng)域達(dá)到甚至超越人類(lèi)的水平，人工智能一旦在自主意識(shí)和情感領(lǐng)域取得新進(jìn)展，那么人與機(jī)器之間的關(guān)系會(huì)變得復(fù)雜。此外，對(duì)于絕大多數(shù)的用戶(hù)而言，他們不會(huì)試圖研究甚至難以了解算法的內(nèi)在邏輯，同時(shí)維護(hù)人員也很難全面掌握、解釋智能技術(shù)在深入學(xué)習(xí)后的選擇機(jī)制，從而形成算法的“黑箱”，嚴(yán)重情況下會(huì)演進(jìn)為算法歧視。

人工智能安全風(fēng)險(xiǎn)評(píng)估優(yōu)化路徑

為確保人工智能技術(shù)平穩(wěn)安全落地，我們不能被動(dòng)地在發(fā)生危險(xiǎn)后緊急處理相關(guān)問(wèn)題，而要在第一時(shí)間掌握技術(shù)的最新動(dòng)態(tài)，積極做好人工智能安全風(fēng)險(xiǎn)評(píng)估和預(yù)警工作。

第一，完善人工智能安全應(yīng)用的法律覆蓋和兜底。當(dāng)前，我國(guó)在人工智能技術(shù)安全運(yùn)用領(lǐng)域還存在大量法律空白。對(duì)此，立法者應(yīng)制定相關(guān)法規(guī)，為智能技術(shù)的應(yīng)用安全提供法律保障，防控人工智能技術(shù)帶來(lái)的潛在風(fēng)險(xiǎn)。一方面，立法者要全面審視現(xiàn)有法律體系，并使其不斷適應(yīng)社會(huì)需求，同時(shí)注重立法加強(qiáng)用戶(hù)信息和隱私的保護(hù)、個(gè)人數(shù)據(jù)合法使用、人工算法的普適公平，以及智能技術(shù)失效后的救濟(jì)管理，明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任，構(gòu)建實(shí)現(xiàn)新技術(shù)的法律基礎(chǔ)。另一方面，設(shè)立人工智能發(fā)展規(guī)劃和前沿技術(shù)領(lǐng)域的負(fù)面清單，從法律底線(xiàn)構(gòu)建“安全防火墻”。在國(guó)家層面立法實(shí)現(xiàn)對(duì)人工智能的算法設(shè)計(jì)、產(chǎn)品開(kāi)發(fā)、數(shù)據(jù)采集和產(chǎn)品應(yīng)用的全流程規(guī)制，在可能引發(fā)人工智能不可預(yù)知性和不確定性的技術(shù)領(lǐng)域，立法設(shè)立紅區(qū)或研發(fā)限制規(guī)范，推進(jìn)人工智能技術(shù)健康發(fā)展與應(yīng)用。

第二，健全人工智能安全等級(jí)和風(fēng)險(xiǎn)預(yù)估機(jī)制。由于人工智能的發(fā)展存在很多的不確定性，亟須加強(qiáng)人工智能潛在風(fēng)險(xiǎn)的評(píng)估，促使人工智能安全可控發(fā)展。首先，政府應(yīng)聯(lián)合相關(guān)高校、智庫(kù)和科技公司等對(duì)人工智能技術(shù)的應(yīng)用進(jìn)行安全等級(jí)評(píng)估，不同安全等級(jí)運(yùn)用不同層次的智能安防技術(shù)，確保人工智能技術(shù)應(yīng)用的安全性、有序性。其次，針對(duì)人工智能技術(shù)應(yīng)用進(jìn)行風(fēng)險(xiǎn)預(yù)估，預(yù)防人工智能在場(chǎng)景應(yīng)用中存在的潛在風(fēng)險(xiǎn)，防止技術(shù)手段在實(shí)際運(yùn)用中可能出現(xiàn)的故障、失效、被入侵等隱患。如通過(guò)人工智能技術(shù)建立對(duì)抗性學(xué)習(xí)算法研究，利用“技術(shù)制約技術(shù)”的理念，優(yōu)化智能技術(shù)開(kāi)發(fā)架構(gòu)，降低人工智能帶來(lái)的隱患。最后，政府安全部門(mén)應(yīng)聯(lián)合相關(guān)執(zhí)法機(jī)構(gòu)，完善對(duì)人工智能技術(shù)應(yīng)用主體的監(jiān)控機(jī)制，建立倫理與風(fēng)險(xiǎn)審查機(jī)制，降低人工智能技術(shù)受到人為因素影響的概率。

第三，做好人工智能風(fēng)險(xiǎn)防控領(lǐng)域前瞻性研究。面對(duì)智能技術(shù)的安全威脅，人們應(yīng)采取積極應(yīng)對(duì)的態(tài)度，秉持“早發(fā)現(xiàn)、早治療、早升級(jí)”的理念促進(jìn)人工智能的良序發(fā)展。一是成立具有國(guó)家戰(zhàn)略高度的人工智能風(fēng)險(xiǎn)防控系統(tǒng)與實(shí)體研究機(jī)構(gòu)，切實(shí)加強(qiáng)各類(lèi)人工智能安全應(yīng)用平臺(tái)建設(shè)和人工智能學(xué)科專(zhuān)業(yè)建設(shè)與人才培養(yǎng)；形成以政府為主導(dǎo)、企業(yè)為主體、市場(chǎng)為導(dǎo)向的產(chǎn)學(xué)研相結(jié)合的模式，鼓勵(lì)開(kāi)發(fā)相關(guān)人工智能技術(shù)，拓寬人工智能技術(shù)的安全應(yīng)用領(lǐng)域。二是貫徹人類(lèi)命運(yùn)共同體理念，積極開(kāi)展多邊國(guó)際智能安全技術(shù)合作。中國(guó)應(yīng)積極參與人工智能全球治理，主動(dòng)搭建人工智能倫理規(guī)范、制度建設(shè)和國(guó)際規(guī)制等全球合作平臺(tái)，在智能技術(shù)安全風(fēng)險(xiǎn)管控、國(guó)家安全治理等重大國(guó)際議題上，貢獻(xiàn)中國(guó)智慧與力量，共同應(yīng)對(duì)全球性挑戰(zhàn)。

總而言之，我們需要從實(shí)際出發(fā)，因地制宜、因時(shí)制宜，從頂層設(shè)計(jì)層面加強(qiáng)對(duì)人工智能新技術(shù)融入經(jīng)濟(jì)社會(huì)的規(guī)劃和引導(dǎo)，準(zhǔn)確把握技術(shù)和產(chǎn)業(yè)發(fā)展趨勢(shì)，不斷規(guī)范不同領(lǐng)域人工智能安全應(yīng)用，進(jìn)而避免盲目追求人工智能技術(shù)的應(yīng)用，而忽視了智能技術(shù)造福于人的本質(zhì)目標(biāo)。