自2016年人工智能圍棋AlphaGo擊敗李世石以來，新一輪人工智能熱潮以的態(tài)勢席卷世界。在各國紛紛提出人工智能發(fā)展規(guī)劃和戰(zhàn)略的同時，人工智能的倫理風險與治理也成為全球共同關注的焦點。在全球范圍內(nèi)，人們對人工智能前景的認知明顯地呈現(xiàn)出兩極化——一方面對其可能極大促進經(jīng)濟社會發(fā)展的預期興奮不已，另一方面對其可能帶來的破壞民生等危害與風險愈益擔憂。在亞洲，盡管在公眾認識和法律層面對于隱私、數(shù)據(jù)權利、歧視等相關價值訴求和權利界定不甚明確，倫理與治理框架也尚未系統(tǒng)構建，人工智能創(chuàng)新與應用卻十分迅猛，這一張力使人工智能發(fā)展中的價值沖突與倫理抉擇變得更為突出。

國家人工智能戰(zhàn)略優(yōu)先事項的熱圖

“亞洲人工智能議程”是《麻省理工技術評論洞察》研究項目，2019年7月發(fā)布的這份題為《亞洲人工智能議程：人工智能倫理》的報告作了較為客觀的評述。該報告是其“亞洲人工智能議程”系列報告中的一種，報告基于對包括871位高管在內(nèi)的亞洲人工智能生態(tài)系統(tǒng)內(nèi)外人士的調查與采訪，其洞察大致體現(xiàn)了亞洲人工智能倫理議程的當下發(fā)展與未來態(tài)勢報告，對亞洲與全球人工智能倫理與治理框架的進一步反思及構建具有較大的參考價值。

亞洲立場下的人工智能倫理與治理

近30年來，在追趕信息通信技術和網(wǎng)絡數(shù)字技術的過程中，亞洲地區(qū)成為全球科技進步快的區(qū)域。如今，在邁向全球人工智能發(fā)展的快車道上，亞洲無疑比四分之一個世紀之前擁抱互聯(lián)網(wǎng)時更為主動和自信。面對這一波的人工智能熱潮，曾以新興科技帶動社會發(fā)展的經(jīng)驗，再加上經(jīng)世致用和民生優(yōu)先的文化傳統(tǒng)，使亞洲地區(qū)的政府和企業(yè)對人工智能的基本立場更為樂觀，也更具實用主義色彩。從這一立場出發(fā)，不僅亞洲人工智能生態(tài)系統(tǒng)的成員對人工智能的好處充滿信心，而且在整個社會也自然地形成了相對有利于人工智能探索的制度文化環(huán)境。

但我們應該看到，人工智能的倫理風險并非虛構，數(shù)據(jù)分析、內(nèi)容推薦、人臉識別等應用直接涉及和影響到人的身份和行為，相關技術的濫用對人造成的危害和負面影響將遠遠大于傳統(tǒng)的網(wǎng)絡與數(shù)字技術。如果不加反省地固守這一立場，人工智能對社會和個人造成的潛在威脅往往容易被忽略或無視，由此所引發(fā)的倫理風險，既得不到事先防范也難以事后糾正，終非但會釀成嚴重后果，還會破壞整個社會對人工智能的信任，打擊普通公眾對發(fā)展新興科技的信心。報告對這一立場下亞洲人工智能倫理和治理中的問題作了較為深入的剖析。

首先，亞洲對人工智能的樂觀主義與實用主義的立場，給人工智能倫理和治理帶來了巨大挑戰(zhàn)。報告指出，盡管亞洲的商業(yè)與人工智能生態(tài)系統(tǒng)的參與者已認識到人工智能應用可能帶來潛在倫理風險，但在總體上對于人工智能為經(jīng)濟、社會、企業(yè)和個人福祉帶來的積極影響更加樂觀。由此帶來的問題是，“來自亞洲的戰(zhàn)略在倫理方面的優(yōu)先級相對較其他地區(qū)低”，甚或“在亞洲使用人工智能的偏見可能更為嚴重”。針對這一問題，有人可能會提出應該強調倫理優(yōu)先，但實際上不一定要將創(chuàng)新與倫理對立起來；倫理是不是應該得到優(yōu)先考慮，取決于具體的技術應用對相關群體的負面影響及其嚴重程度。因此，有效克服這一問題的關鍵在于：一方面，技術監(jiān)管者應該要求企業(yè)對技術應用在相關群體中造成的負面影響展開預見性的倫理評估，進而對其加以矯正；另一方面，應該通過建設性與參與性的倫理評估，使可能因技術應用而受到嚴重負面影響的相關群體參與到相關的倫理評估、爭論與矯正等環(huán)節(jié)之中。

其次，亞洲人工智能倫理和治理的大挑戰(zhàn)在于，如何以包容審慎的監(jiān)管實現(xiàn)倫理與創(chuàng)新的協(xié)同。報告指出，雖然亞洲人工智能生態(tài)系統(tǒng)中的企業(yè)等居于主導地位的利益攸關者對人工智能倫理進行了激烈的辯論，并認為政府應該主導對人工智能的監(jiān)管，但多少有些矛盾的是，他們又希望相關政策、框架和監(jiān)管應審慎行事，“而不能扼殺創(chuàng)新”。針對這一問題，不應錯誤地將倫理上的相對寬松視為創(chuàng)新的“倫理優(yōu)勢”，而應該認識到，對于那些具有高度價值敏感性的人工智能應用，應該努力尋求一種將倫理價值融合到技術之中的復合創(chuàng)新，從而使創(chuàng)新與倫理相輔相成、協(xié)同并進。根據(jù)這一思路，在內(nèi)容推薦中，一些企業(yè)已經(jīng)開始通過對算法推薦的一些不良內(nèi)容的識別與抑制打破“信息繭房”；為了應對人臉識別技術的濫用，出現(xiàn)了隨機換臉等許多旨在保護隱私的對抗性設計。實際上這種道德敏感設計——將倫理道德內(nèi)置于技術設計的做法很早就有，十多年前卡內(nèi)基梅隆大學就有研究者通過設計的軟件幫助人們堵住網(wǎng)上的隱私漏洞。由此可見，人工智能的倫理和治理可以貫穿于人工智能創(chuàng)新應用的全過程，為了實現(xiàn)倫理與創(chuàng)新的協(xié)同，要將其背后的價值觀轉換為技術層面的目標與需求。

其三，亞洲試圖以信任機制的建立而不是執(zhí)法框架的構建作為人工智能倫理與治理的突破口。報告強調，盡管亞洲各國政府和企業(yè)正在更加積極地為人工智能行業(yè)的倫理發(fā)展制定目標和指導方針，但迄今為止尚無監(jiān)督或執(zhí)行機制。亞洲的政策制定者既不試圖直接解決倫理問題，也不為之提供法律支持和追索權，轉而訴諸消費者、人工智能用戶和人工智能開發(fā)商之間的信任，以使整個行業(yè)得到發(fā)展。毋庸置疑，持續(xù)的信任機制的構建要求人工智能必須以一種負責任和透明的方式發(fā)展。在當前的人工智能涉及大量數(shù)據(jù)驅動的智能應用，其中所涉及的與人相關的數(shù)據(jù)反映了人格特征、行為方式和具體行為，企業(yè)必須就如何恰當?shù)厥占?、使用和共享?shù)據(jù)與客戶及利益攸關者展開溝通，才可能避免用戶的疑慮和不信任，使創(chuàng)新與應用有序地展開。

12種新興技術的感知效益和負面后果

構建切實可行的人工智能倫理與治理框架

近二十年來，發(fā)展迅猛且具有高度不確定性的新興科技不斷涌現(xiàn)，由此產(chǎn)生了人工智能、物聯(lián)網(wǎng)、基因編輯等可能對經(jīng)濟社會與人類未來造成根本性、深遠性、普遍性影響的顛覆性技術，如何針對人工智能等技術構建切實可行的倫理與治理框架無疑是各個地區(qū)與國家所必須面臨的大挑戰(zhàn)。對此，既沒有佳答案，也沒有統(tǒng)一標準。但透過這份報告中所匯集的諸多經(jīng)驗與智慧，我們無疑可以獲得諸多構建這一框架的有益線索。

一是要對人工智能可能造成的社會影響進行更加深入系統(tǒng)的研究，在此基礎上構建起考慮到壞情形的社會風險防范機制。其中為重要的問題是人工智能對就業(yè)的影響。在報告中，盡管亞洲的商界普遍認為，人工智能驅動的失業(yè)困擾將被人類工作的潛力所抵消，但根據(jù)與該報告同系列的“人工智能與人力資本”的報告也指出，“人工智能將影響到每五個亞洲工作崗位中的一個，而自動化將淘汰八分之一的工作”。后者還發(fā)現(xiàn)，建立在勞動密集型工業(yè)和服務業(yè)基礎上的新興亞洲經(jīng)濟體的勞動力“可自動化”的比例較富裕國家更高；而且那些受到人工智能威脅的低技能職業(yè)階層再培訓和再提升技能的能力更弱。這些分析表明，在人工智能生態(tài)系統(tǒng)對未來普遍樂觀的情況下，政府所主導的人工智能倫理與治理框架必須看到壞的情形，充分考慮到可能被智能機器替換的勞動力的出路，以此避免人工智能的顛覆性發(fā)展帶來新的社會不平等。

二是要從文化出發(fā)構建一種兼具區(qū)域性與全球性的人工智能倫理與治理體系框架。報告中頗有洞見地指出，由于在表達倫理的“正確”方式上存在著巨大的文化差異，人工智能倫理與治理并沒有“全球性”。毫無疑問，人們對人工智能的不同態(tài)度確定了不同區(qū)域與社會發(fā)展人工智能的不同方法和旨趣。以前衛(wèi)的性愛機器人為例，具有神道教傳統(tǒng)與豐富的人偶文化的日本可能更容易接受其研發(fā)與應用。在未來的無人汽車等智能無人系統(tǒng)中，個人主義與集體主義等不同社會主流價值導向也會在一定程度上影響機器的價值取向和倫理抉擇。因此，文化和價值觀上的可接受性是構建人工智能時代的人機信任和人機和諧的關鍵所在。

但與此同時，必須指出的是，人工智能的發(fā)展必然會加速推進更深層次的全球化，區(qū)域性的人工智能倫理與治理不僅要具有局域的適切性，還應該建立起通達全球治理的機制。在中國的《新一代人工智能發(fā)展規(guī)劃》中，不僅設想通過人工智能提高社會管理能力，還承諾對隱私與知識產(chǎn)權、信息安全、問責、設計倫理等展開研究，并積極參與全球治理。在此過程中，如何講清區(qū)域性倫理與治理框架的核心價值取向和倫理訴求是關鍵，不論在什么文化和社會主流價值觀下，都必須對人工智能時代的隱私、尊嚴、個人權利等基本的倫理與法律概念做出明晰與合理的詮釋，都要對數(shù)據(jù)的采集與使用、智能系統(tǒng)對人的行為的影響與干預的限度做出合乎倫理與法律的準確陳述。而對這些問題的深究終所涉及的與其說是價值和倫理問題，毋寧說關乎更大社會歷史背景與文化語境下的社會政治抉擇，這就使得區(qū)域性的人工智能的倫理與治理框架之間的對話成為其整合為全球性治理架構的難點和關鍵所在。

三是要在構建人機和諧的未來的同時確保人類和平這一文明底線。在我們試圖通過人工智能發(fā)展構建人機和諧未來之時，應該認識到人與機器的關系實質是人與人以機器為中介的關系，對人工智能等技術的倫理規(guī)制和治理的關鍵是避免其對人作惡。因此，人工智能的倫理與治理要對人工智能的惡意使用和軍事運用等負面用途加以必要的法律管制、倫理規(guī)制全球治理。隨著深度造假等技術的發(fā)展，人工智能的惡意使用會越來越大，如果不加以及時的法律管制和倫理規(guī)制，必將極大地破壞整個社會對人工智能等顛覆性技術的信任，影響其有益的創(chuàng)新與應用。

同時，應該看到，人類科技文明發(fā)展的悖謬之處恰恰在于包括計算機、互聯(lián)網(wǎng)和人工智能在內(nèi)的很多顛覆性的技術與軍事對抗和國家競爭密切相關。我們必須承認，在這一波的人工智能熱潮背后，或明或暗地存在著人工智能軍備競賽的陰影，無人機以及大規(guī)模智能自動武器系統(tǒng)等人工智能的軍事應用，將對人類文明的未來造成的威脅，必須得到有效的控制和全球性的治理。

結語：走向敏捷的人工智能倫理與治理

2019年6月17日，國家新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的創(chuàng)新》，提出了“和諧友好、公正公平、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作和敏捷治理”等八項原則。其中的敏捷治理強調，應在人工智能的發(fā)展中及時發(fā)現(xiàn)和解決可能引發(fā)的風險、推動治理原則貫穿人工智能產(chǎn)品和服務的全生命周期、確保人工智能始終朝著有利于人類的方向發(fā)展。而實現(xiàn)這一原則的關鍵在于切實將人工智能發(fā)展中的所有相關利益群體的認知納入人工智能倫理與治理的各個環(huán)節(jié)，以此形成多相關方的對話與共識機制，實現(xiàn)從微觀到宏觀的反饋、修正與迭代，終推動人工智能的未來沿著合乎人性的方向和諧發(fā)展。