歷史上每一次工業(yè)革命都會助推強國崛起，引發(fā)國力轉(zhuǎn)變，重塑世界格局。人工智能（AI）技術的發(fā)展應用同樣正在孕育著一場革命，為我國提供了重大歷史機遇。“搶抓機遇，乘勢而上”已成官商學界的高度共識。而世界大國對人工智能安全問題的擔憂則要比過去歷次科技革命的利害權衡都更為深入、廣泛和尖銳。在發(fā)展人工智能的全球競爭中能否成為這一新興技術的引領者，很大程度上取決于對“發(fā)展與安全”問題的了解、認識和應對。

人工智能是典型的軍民兩用技術，利弊并存，其智能化程度越高，雙刃劍特征就越突出。已故的英國科學家斯蒂芬·霍金教授認為人工智能可能會毀滅人類，直接將“能否掌握對人工智能的控制權”這一拷問，提到人類戰(zhàn)略的高度。目前，世界各國在競相發(fā)展人工智能的同時，都高度重視其安全風險。政界、軍界、產(chǎn)業(yè)界和智庫密集討論其對國家安全和國際秩序的威脅與挑戰(zhàn)。歸結(jié)而言，人工智能技術應用的安全風險突出體現(xiàn)在三個方面：

一是國家安全風險。人工智能技術使機器擁有越來越高級的智能，力圖突破人力的局限，甚至改變?nèi)祟惻c技術的深層聯(lián)系，給國家發(fā)展帶來深層變革，其“威力之大，堪比核武”，被公認是“對國家安全帶來深刻變化的顛覆性技術”。如果管控不當，將直接影響政治、政權、經(jīng)濟、金融、網(wǎng)絡、文化等國家重要行業(yè)和核心領域的安全與穩(wěn)定。各主要大國在國家安全戰(zhàn)略和科技發(fā)展戰(zhàn)略等重要文件中均特別強調(diào)對人工智能危及國家安全的擔憂：一是擔心對這一新興戰(zhàn)略能力的缺失。普遍認為，新一代人工智能會成為重要的戰(zhàn)略威懾力量，類似于“擁核自重”。不在人工智能上占據(jù)制高點，就難以在未來的國際舞臺上掌握主動權、擁有話語權。2018年4月，蘭德公司發(fā)布報告《人工智能對核戰(zhàn)爭風險的影響》指出，到2040年人工智能有可能顛復核威懾戰(zhàn)略的基礎。二是擔心對人工智能技術濫用的失控。人工智能這種賦能極強的技術手段獲得容易，管控極難，濫用門檻極低，容易落入極端個人或犯罪團伙之手，會給政權安全和社會穩(wěn)定帶來重大威脅。三是擔心對人工智能應用中重大安全風險的失察。人工智能技術應用推廣隱含著諸多不確定性，近年在西方政治中出現(xiàn)的利用大數(shù)據(jù)分析和社交平臺部署“機器人水軍”達到“網(wǎng)絡干預選舉”的口水仗和劍橋分析公司利用人工智能等技術操控選民意見和行為的曝光，彰顯出新的政治安全風險。沒有預測、預警和預防能力，智能化時代的系統(tǒng)性、災難性風險在所難免。

二是軍事安全風險。兩用技術，最受軍方的青睞。一方面，越來越多的國家試圖研發(fā)“致命性自動武器”，而個人或非國家行為體則越來越容易獲得這種“四兩撥千斤”的“遠程精確打擊能力”“機器自動殺人”可能不再是科幻。另一方面，有的國家或非國家實體可能將商業(yè)團體開發(fā)的工業(yè)機器人轉(zhuǎn)化成接近實用的“機器人戰(zhàn)士”。更值得關注的是，西方軍界對智能化武器裝備、戰(zhàn)場戰(zhàn)法、戰(zhàn)爭理論等的研究越來越多，且日益深入，引發(fā)有識之士的普遍擔憂。以至于特斯拉創(chuàng)始人馬斯克等來自26個國家的116名專家去年聯(lián)名致信聯(lián)合國，強烈呼吁制止“智能武器”的軍備競爭，將其納入國際公約的管制。今年四月初，30個國家和地區(qū)的50多名專家學者聯(lián)合抵制韓國科學技術院與軍工企業(yè)合作的機器人武器研發(fā)項目。英國政府的一份報告明確表示：永遠不能給人工智能系統(tǒng)傷害人的權力。

三是社會安全風險。人工智能技術的創(chuàng)新和推廣，將不斷突破現(xiàn)有法律法規(guī)、社會規(guī)范和道德倫理的限制，直接給社會生活帶來多維度的安全挑戰(zhàn)。一是智能社會的經(jīng)濟生產(chǎn)與生活模式高度自動化，具有智能的機器對傳統(tǒng)人工的替代在解放人力勞動者的同時，直接帶來對就業(yè)的沖擊，給本來就存在就業(yè)壓力的發(fā)達國家?guī)砩鐣L險。尤其是人工智能越來越多地應用于大數(shù)據(jù)環(huán)境下的決策，由于機器系統(tǒng)無法像人那樣解釋或合理化其所作的決定，所謂的“算法偏見”會帶來更為復雜的社會問題。二是當智能技術無處不在，萬物互聯(lián)成為常態(tài)，大量的個人隱私會直接暴露給智能設備，構(gòu)成日益尖銳且相當普遍的網(wǎng)絡信息安全問題。三是人工智能主要靠軟件與算法驅(qū)動，而軟件與算法皆是人為編寫，難免出現(xiàn)技術漏洞和人為缺陷。人工智能與物聯(lián)網(wǎng)的深度融合，使得智能產(chǎn)品成為網(wǎng)絡攻擊新的風險點和突破口。人工智能既普遍又敏感，正用反用，存乎一念，善惡之間，天壤之別。美國有研究表明，虛設假場景、偽造音視頻會直接引發(fā)股市動蕩、街頭政治和社會危機。在近兩年的世界黑客大會上，具有人工智能的“神器”“殺器”紛紛亮相。聯(lián)合國曾召開“人工智能向善”大會，專門討論技術標準、安全規(guī)范和道德倫理等問題，以防機器人作惡，表達了國際社會的集體焦慮。近期，谷歌公司3100多名員工聯(lián)名抗議為五角大樓開發(fā)相關高端人工智能技術，也是這種社會憂慮的反應。

回顧人類文明史，在利弊并存的技術革命和社會創(chuàng)新面前，人類總能憑借自身的智慧探索出一條趨利避害的發(fā)展道路，從而在適應發(fā)展、改造自然的進程中化險為夷，轉(zhuǎn)危為安。相對前述多方面的風險隱患，新一代人工智能帶給人類的發(fā)展機遇更為現(xiàn)實和明顯。隨著計算能力的提高，大規(guī)模數(shù)據(jù)的積累和學習算法的進步，人工智能正在重塑我們的世界、社會和生活。日新月異的人工智能應用不僅使我們的生活更加便捷和高效，而且能為我們應對和解決重大社會性、全球性難題提供新的方法和手段。尤其重要的是，人工智能的發(fā)展將給全球帶來巨大的經(jīng)濟發(fā)展機會。普華永道2017年的一項研究表明：在人工智能技術的推動下，2030年全球GDP將增長14%，相當于15.7萬億美元。發(fā)展與安全的利害關系，不言而喻。回顧我國近代史，在多次重大的世界性技術變革面前，由于在風險感知、安全預判上的糾結(jié)與失據(jù)，讓我們痛失多次歷史發(fā)展機遇，留下苦澀的遺憾。四十年的改革開放生動地證明了“發(fā)展是硬道理”，也辯證地揭示了“不發(fā)展是最大的不安全”。因此，對人工智能發(fā)展中面臨的安全問題，應當要有辯證的認識。

首先，要樹立科學的安全觀念。要立足發(fā)展講安全，權衡利弊講安全，防止安全問題絕對化的認識和安全風險擴大化的傾向。不能讓安全問題成為發(fā)展路上的攔路虎和絆腳石，而是要以有效的法律法規(guī)、管理手段和技術措施主動應對，讓安全保障成為確保發(fā)展的底板和墊腳石。只有對安全問題有了全面科學的認識，才會不糾結(jié)、不懼怕，才敢張開雙臂擁抱人工智能技術，才能緊緊抓住這一歷史機遇。

其次，要確立有效的治理策略。從蒸汽機到電力，從計算機到網(wǎng)絡，任何一項技術創(chuàng)新都經(jīng)歷一個從不完善到完善，從不可控到可控的過程，其中的治理之道基本上應了“兩利相較取其重，兩害相較取其輕”的古訓。因而是發(fā)展在先，治理在后，只是隨著時空關系的變化，發(fā)展與治理的時間差在不斷縮短，直到近十年的互聯(lián)網(wǎng)發(fā)展，我們?nèi)匀蛔叩氖窍劝l(fā)展后治理的路子。實踐表明，由于技術發(fā)展太快，應用涉及太廣，作用影響太大，對于顛覆性超強的新興科技，治理滯后越來越顯得力不從心。而對新一代人工智能的自主、智能和自適應等鮮明特征，發(fā)展與治理并舉的緊迫性更加凸顯。歐美各國均在人工智能發(fā)展戰(zhàn)略中同步考慮安全管控和風險治理，加大了對安全問題的研究力度和安全措施的投入強度，為有效把控安全風險預作準備。這是處理應對顛覆性技術帶來的安全風險的新動向，值得我們重視和借鑒。在新一代人工智能的發(fā)展中要做到趨利避害，就必須不回避安全挑戰(zhàn)，以科學的態(tài)度，務實的精神，同步考慮和解決安全保障措施，為人工智能又好又快地發(fā)展提供可靠的安全保證。

再次，要建立良好的社會環(huán)境。良好的社會環(huán)境是科技創(chuàng)新最好的土壤，任何技術進步和科技創(chuàng)新都是有成本的，要享用人工智能帶來的發(fā)展機遇，就要為其可能帶來的社會變革付出代價。政府、企業(yè)和公眾都要有為人工智能發(fā)展付出成本的心理準備。人工智能應用越廣，這個問題會越突出，我們不僅要在人工智能技術的研發(fā)、試驗和推廣應用中包容失誤，寬容出錯，而且要在安全保密的文化和觀念上走出 “絕對安全”的認識誤區(qū)，避免條件反射式的監(jiān)管沖動，靠發(fā)展化解隱患，以動態(tài)管控風險。

我國已正式發(fā)布新一代人工智能的發(fā)展規(guī)劃，憑借規(guī)模龐大的市場和技術應用優(yōu)勢，堅持發(fā)展這個硬道理，抓住創(chuàng)新這個牛鼻子，我們就能搶占先機，獲得主動。在安全管控這個關鍵問題上，只要堅持發(fā)展與治理并舉，趨利避害，就可以走出具有中國特色的一條新路。

（一）強化戰(zhàn)略引領，發(fā)揮體制優(yōu)勢，爭取技術領先。一是在總體國家安全觀的指導下，完善人工智能發(fā)展戰(zhàn)略，尤其要充分考慮新一代人工智能技術的新特點和應用的新領域，處理好發(fā)展與安全的辯證關系，同步布局、設計和安排與安全相關的工作內(nèi)容。二是面向國防、安全等國家戰(zhàn)略需求，統(tǒng)一建設人工智能國家實驗室、安全風險測評基地、模擬試驗場等技術基礎設施。防止各行業(yè)、各部門一哄而上，重復投入，避免同質(zhì)競爭造成資源浪費。三是設立重大科技專項，研發(fā)人工智能積極防御關鍵技術，搶占戰(zhàn)略制高點，提高國家在該領域的核心競爭力。

（二）強化軍民融合，推動商業(yè)應用，促進創(chuàng)新發(fā)展。一可增加人工智能安全相關的基礎研究投入，針對我國在交通、醫(yī)療、金融、教育、智慧城市、工業(yè)控制等方面大規(guī)模人工智能的應用需求，研究有針對性的安全技術，促進原始創(chuàng)新。二可將人工智能商業(yè)應用創(chuàng)新作為軍民融合的重要內(nèi)容，激發(fā)技術創(chuàng)新和成果轉(zhuǎn)化，鼓勵科研成果的實際應用，在應用中改進，在改進中完善和提高，形成良好的產(chǎn)業(yè)生態(tài)。三可支持跨部門、跨界的數(shù)據(jù)共享和業(yè)務配合，推動機制創(chuàng)新，讓我國的信息化紅利、網(wǎng)絡化紅利和大數(shù)據(jù)紅利有效轉(zhuǎn)化成人工智能發(fā)展與應用的直接動力。

（三）強化安全治理，提高防范能力，管控重大風險。一宜結(jié)合深化改革，明確人工智能安全治理的責任部門，防止“九龍治水”，政出多門，減少企業(yè)經(jīng)營負擔和公眾政策困擾。二宜與國家人工智能發(fā)展戰(zhàn)略相適應，持續(xù)加大投入力度，著力建設防故障、防干擾、防破壞、防控制等技術標準、治理體系和治理能力，努力躋身人工智能強國之列。三宜貫徹人類命運共同體理念，支持科研團體、專家學者、企業(yè)廣泛開展國際合作，主動搭建人工智能國際合作平臺，積極參與國際標準和規(guī)則制定。針對機器人異化和安全風險管控、治理等重大國際共性問題，加強研究，提出中國方案，貢獻中國智慧，發(fā)揮中國作用。