人工智能是計(jì)算機(jī)學(xué)科的一個(gè)分支，二十世紀(jì)七十年代以來(lái)被稱為世界三大尖端技術(shù)之一(空間技術(shù)、能源技術(shù)、人工智能)。也被認(rèn)為是二十一世紀(jì)三大尖端技術(shù)(基因工程、納米科學(xué)、人工智能)之一。這是因?yàn)榻陙?lái)它獲得了迅速的發(fā)展，在很多學(xué)科領(lǐng)域都獲得了廣泛應(yīng)用，并取得了豐碩的成果，人工智能已逐步成為一個(gè)獨(dú)立的分支，無(wú)論在理論和實(shí)踐上都已自成一個(gè)系統(tǒng)。

今年5月，人工智能圍棋程序“阿爾法狗”與世界圍棋第一人柯潔之間展開(kāi)一場(chǎng)“人機(jī)大戰(zhàn)”，結(jié)果人工智能以3：0的成績(jī)完勝人類棋手，引發(fā)關(guān)于未來(lái)人工智能取代人類的討論。如今，人工智能炙手可熱，今年3月，“人工智能”首次進(jìn)入《政府工作報(bào)告》。人工智能變得“擬人”和“超人”，人們?cè)绞菍?duì)其依賴和贊嘆，越是恐慌不安?，F(xiàn)實(shí)中，人工智能對(duì)現(xiàn)行法律制度的挑戰(zhàn)已初露端倪，而未來(lái)如果人工智能具有自主性和情感，其法律地位及與人的法律關(guān)系定位將成為難題。近日由亞太網(wǎng)絡(luò)法律研究中心主辦、在北京師范大學(xué)舉辦的“網(wǎng)絡(luò)與法律對(duì)話”學(xué)術(shù)沙龍上，來(lái)自法學(xué)界、網(wǎng)絡(luò)安全界的專家學(xué)者圍繞人工智能發(fā)展帶來(lái)的法律挑戰(zhàn)等問(wèn)題展開(kāi)了探討，為應(yīng)對(duì)未來(lái)挑戰(zhàn)提供了對(duì)策與建議。

人工智能被列入各國(guó)戰(zhàn)略

人工智能(artificial intelli-gence)近年來(lái)大熱。聯(lián)合國(guó)國(guó)際電信聯(lián)盟剛剛在日內(nèi)瓦召開(kāi)了主題為“人工智能造福人類”的全球峰會(huì)，這是一個(gè)非常恢弘的題目。峰會(huì)有兩個(gè)目的，一是加速人工智能的研發(fā)和應(yīng)用，以應(yīng)對(duì)貧困、饑餓、健康、教育和環(huán)境保護(hù)等全球性挑戰(zhàn);二是探討如何確保人工智能的安全性并符合倫理規(guī)范，防止其帶來(lái)意想不到的后果。

聯(lián)合國(guó)層面對(duì)于人工智能是非常重視的，此前，聯(lián)合國(guó)也有專門的報(bào)告。例如，聯(lián)合國(guó)教科文組織與世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)2016年的報(bào)告就主要討論了機(jī)器人的制造和使用促進(jìn)了人工智能的進(jìn)步，以及這些進(jìn)步所帶來(lái)的社會(huì)與倫理道德問(wèn)題。

美國(guó)而言，特別是奧巴馬時(shí)代，美國(guó)發(fā)布了若干關(guān)于人工智能的文件。立法方面，僅在今年，美國(guó)國(guó)會(huì)就提出了三部含有“人工智能”的法案，包括《2017創(chuàng)新團(tuán)法案》、《2017全民計(jì)算機(jī)科學(xué)法案》及《2017在科學(xué)技術(shù)工程及數(shù)學(xué)領(lǐng)域中的計(jì)算機(jī)科學(xué)法案》。上述三部法案分別關(guān)注了人工智能技術(shù)對(duì)美國(guó)人生活質(zhì)量的改善價(jià)值及可能對(duì)部分工作的替代作用，并要求商務(wù)、教育等部門加強(qiáng)有關(guān)職業(yè)培訓(xùn)或者中學(xué)生的計(jì)算機(jī)科學(xué)教育，其中就特別包括了人工智能的內(nèi)容。

歐盟在數(shù)年前就開(kāi)始了有關(guān)機(jī)器人計(jì)劃及人腦計(jì)劃，力爭(zhēng)使歐盟在這兩個(gè)關(guān)鍵領(lǐng)域處于全球領(lǐng)先位置，并充分認(rèn)識(shí)到標(biāo)準(zhǔn)、規(guī)范和立法的保障措施將是有關(guān)工程的重要組成部分。去年，歐洲議會(huì)提出一項(xiàng)草案，建議賦予機(jī)器人基本的“勞工權(quán)利”，讓這些為人類服務(wù)的“電子人”今后也能享有薪酬、版權(quán)保護(hù)和社會(huì)保險(xiǎn)。雖然爭(zhēng)議很多，但非常值得關(guān)注。又如，歐盟2012年開(kāi)始做了一個(gè)“R oboLaw”(機(jī)器人法律)的項(xiàng)目，已于2014年結(jié)束。該項(xiàng)目主要研究對(duì)歐盟機(jī)器技術(shù)規(guī)制與倫理、法律及經(jīng)濟(jì)的影響。

今年3月，中國(guó)首次將“人工智能”寫入《政府工作報(bào)告》。李克強(qiáng)總理2017年3月5日在第十二屆全國(guó)人民代表大會(huì)第五次會(huì)議上指出：加快培育壯大新興產(chǎn)業(yè)。全面實(shí)施戰(zhàn)略性新興產(chǎn)業(yè)發(fā)展規(guī)劃，加快新材料、新能源、人工智能、集成電路、生物制藥、第五代移動(dòng)通信等技術(shù)研發(fā)和轉(zhuǎn)化，做大做強(qiáng)產(chǎn)業(yè)集群。人工智能在中國(guó)同樣是一件炙手可熱的事情，聚集了眾多的眼球、人才和資金。

雖然人工智能這個(gè)概念提出來(lái)已經(jīng)有六十年了，時(shí)間很長(zhǎng)，但是它現(xiàn)在這種自我學(xué)習(xí)能力，特別是機(jī)器學(xué)習(xí)能力的發(fā)展到了以前完全不可比擬的階段。中國(guó)目前對(duì)人工智能的政策法律分析已經(jīng)有了良好的開(kāi)端，這方面我們要做的事情還有很多。

人工智能尚未改變現(xiàn)有法律關(guān)系

人工智能是當(dāng)前的熱點(diǎn)和焦點(diǎn)議題，一個(gè)重要的原因是在應(yīng)用上有了較大的突破，比如在自動(dòng)駕駛、無(wú)人機(jī)、精準(zhǔn)醫(yī)療等方面，都取得了實(shí)質(zhì)性的進(jìn)展。我了解到工信部在牽頭制定一個(gè)人工智能的國(guó)家戰(zhàn)略，繪制人工智能產(chǎn)業(yè)生態(tài)地圖，并發(fā)布人工智能白皮書。目前，關(guān)于人工智能的產(chǎn)業(yè)聯(lián)盟也在籌建之中。在人工智能領(lǐng)域，中美兩國(guó)目前走在前列。美國(guó)已經(jīng)出臺(tái)了人工智能研發(fā)戰(zhàn)略，而且其發(fā)布的其他戰(zhàn)略比如大數(shù)據(jù)發(fā)展戰(zhàn)略也與人工智能緊密相關(guān)?？梢哉f(shuō)人工智能已經(jīng)成為兩國(guó)產(chǎn)業(yè)發(fā)展的制高點(diǎn)，未來(lái)的競(jìng)爭(zhēng)態(tài)勢(shì)也會(huì)趨于激烈，這將有助于人工智能的進(jìn)一步快速發(fā)展。

當(dāng)前人工智能發(fā)展很快，有幾個(gè)主要原因：首先，大數(shù)據(jù)的發(fā)展。數(shù)據(jù)是人工智能發(fā)展的前提，越來(lái)越多的應(yīng)用場(chǎng)景產(chǎn)生了海量的數(shù)據(jù)，為人工智能的應(yīng)用落地提供了寶貴的素材。其次，新的算法技術(shù)進(jìn)一步提升了人工智能的發(fā)展。人工智能不是新事物，但由于算法技術(shù)的發(fā)展，包括與神經(jīng)學(xué)科、生物醫(yī)學(xué)學(xué)科等的交叉融合，人工智能越來(lái)越具備人的特征。第三是計(jì)算能力的快速發(fā)展。

人工智能的飛速發(fā)展，帶來(lái)了應(yīng)用的快速落地。但正如硬幣具有正反兩面，人工智能也是如此。一方面它降低了風(fēng)險(xiǎn)，另一方面也帶來(lái)了新的風(fēng)險(xiǎn)。以自動(dòng)駕駛為例，一方面可以顯著降低由于人工駕駛產(chǎn)生的疲勞駕駛、誤操作帶來(lái)的交通致死率，另一方面也可能因?yàn)榫W(wǎng)絡(luò)侵入造成慘烈的交通事故。這時(shí)候就需要不斷地進(jìn)行場(chǎng)景測(cè)試驗(yàn)證，并賦予人工智能最為合理的選擇方案來(lái)取得最佳平衡。

人工智能的發(fā)展，將會(huì)對(duì)社會(huì)治理、法律制度、監(jiān)管乃至社會(huì)倫理等產(chǎn)生影響。比如，隨著人工智能的高度智能化，機(jī)器越來(lái)越具有人的屬性，可能對(duì)婚姻制度、家庭倫理等產(chǎn)生大的影響。對(duì)于社會(huì)治理、法制制度、政府監(jiān)管等，也會(huì)有越來(lái)越多的挑戰(zhàn)。目前還是處于前期階段，我們還不能對(duì)這些問(wèn)題有系統(tǒng)性的認(rèn)識(shí)，但可以做一些前瞻性的研究，并作出預(yù)判。

人工智能會(huì)給法律造成影響。我們不會(huì)去制定一部人工智能法，而是在不同領(lǐng)域、不同產(chǎn)業(yè)，探究人工智能的發(fā)展對(duì)該領(lǐng)域、產(chǎn)業(yè)的影響。哪些可以適用現(xiàn)有法律規(guī)則，哪些需要對(duì)現(xiàn)有制度進(jìn)行修正，甚至制定新的法律規(guī)則。

人工智能會(huì)給法律制度帶來(lái)挑戰(zhàn)，但現(xiàn)階段無(wú)需過(guò)于擔(dān)心。其實(shí)，它沒(méi)有從根本上改變現(xiàn)有的法律關(guān)系。法律關(guān)系是在社會(huì)活動(dòng)中人與人之間產(chǎn)生的權(quán)利義務(wù)的分配關(guān)系。人工智能迄今還是一個(gè)輔助工具，其產(chǎn)生的問(wèn)題，比如自動(dòng)駕駛的侵權(quán)問(wèn)題，歸根結(jié)底還是可以在自動(dòng)駕駛方案提供者、汽車廠商或者使用者之間進(jìn)行歸責(zé)而解決。未來(lái)也許人工智能通過(guò)不斷學(xué)習(xí)會(huì)產(chǎn)生新的法律關(guān)系主體，但是這會(huì)是一個(gè)過(guò)于遙遠(yuǎn)的話題?？傊?，人工智能的法律挑戰(zhàn)是一個(gè)既有現(xiàn)實(shí)性也具有前瞻性的話題，現(xiàn)在希望給出系統(tǒng)的法律解決方案、監(jiān)管框架乃至監(jiān)管模式都還為時(shí)過(guò)早。

“時(shí)空壓縮”疊加人工智能的風(fēng)險(xiǎn)

討論需要一個(gè)前瞻性，也需要一個(gè)限制性。對(duì)于將來(lái)發(fā)生的事情我們可以做一個(gè)探討，但也不必遙遠(yuǎn)到科幻甚至玄幻的程度，這是我的一個(gè)基本判斷。從法律角度看，考慮到自主意識(shí)，我認(rèn)為人工智能發(fā)展要分為三個(gè)階段：

第一階段，AI處于增強(qiáng)輔助人類的階段。這個(gè)階段不管是siri也好其他也好，還是純粹工具的階段，對(duì)它的使用是為了增強(qiáng)人類本身;

第二階段，AI與人類共生共存。這個(gè)階段比起上個(gè)階段，人類離不開(kāi)它了，人類對(duì)人工智能產(chǎn)生深刻的依賴;

第三階段，AI可能會(huì)控制人類。這個(gè)就到了我所說(shuō)的科幻玄幻階段了，電影里面也有所呈現(xiàn)。而這個(gè)場(chǎng)景是否會(huì)發(fā)生，也是我們?nèi)祟愒谒伎嫉囊粋€(gè)問(wèn)題。

目前我們處于第一階段，機(jī)器還屬于工具，當(dāng)前的法律屬于基于自己的自主行為，我們討論的問(wèn)題都屬于第一階段。如今中國(guó)的發(fā)展處于一個(gè)時(shí)空壓縮的階段，其特點(diǎn)在于我們需要在短時(shí)間內(nèi)走過(guò)一些國(guó)家很長(zhǎng)時(shí)間里走過(guò)的很多路，并且還要面對(duì)一系列新問(wèn)題，比如技術(shù)應(yīng)用、法律問(wèn)題、社會(huì)問(wèn)題的疊加。我國(guó)要關(guān)注的幾個(gè)最主要的問(wèn)題是：

第一，人口問(wèn)題：機(jī)器人的使用和人工智能的使用對(duì)我們?nèi)丝诶淆g化或者人口未來(lái)結(jié)構(gòu)調(diào)整有什么影響;

第二，法律問(wèn)題：在我們目前處于的第一階段，人工智能仍然是人類的工具，就像侵權(quán)責(zé)任法中的物件責(zé)任，物體傷害了別人，還是需要你負(fù)責(zé)。法律只需做細(xì)微的調(diào)整就可以適應(yīng)人工智能帶來(lái)的法律問(wèn)題，特殊產(chǎn)品責(zé)任、知識(shí)產(chǎn)權(quán)、大數(shù)據(jù)等都是常見(jiàn)問(wèn)題;

第三，財(cái)務(wù)分配問(wèn)題：隨著機(jī)器生產(chǎn)能力的提升，生產(chǎn)力得到了較大的解放，我們會(huì)對(duì)馬克思經(jīng)濟(jì)學(xué)產(chǎn)生新的理解，對(duì)未來(lái)財(cái)務(wù)分配產(chǎn)生新的思考，比如人類是否還為了生存而工作將成為值得思考的問(wèn)題。

由第一階段邁向第二階段的時(shí)候，程序員的作用十分關(guān)鍵，人類可能只有一次機(jī)會(huì)設(shè)定程序，這個(gè)初始設(shè)定是很重要的。我們給機(jī)器人設(shè)定的紅線是什么?人類的價(jià)值觀能不能教給機(jī)器?機(jī)器會(huì)不會(huì)嚴(yán)格執(zhí)行?計(jì)算機(jī)成為一個(gè)嚴(yán)格的執(zhí)法者會(huì)不會(huì)對(duì)人類造成傷害?這些都是我們要討論的問(wèn)題。

劉德良(北京師范大學(xué)法學(xué)院教授、亞太網(wǎng)絡(luò)法律研究中心主任)

控制引導(dǎo)人工智能的發(fā)展

從當(dāng)前技術(shù)的發(fā)展和人工智能概念的界定等方面來(lái)看，人類已經(jīng)邁入人工智能時(shí)代了。從技術(shù)上來(lái)講，人工智能原本是作為人類的工具被開(kāi)發(fā)設(shè)計(jì)出來(lái)的，但是在未來(lái)有沒(méi)有一種可能，人工智能會(huì)超越工具的范疇，站在人類的對(duì)立面?

國(guó)際競(jìng)爭(zhēng)層面，中國(guó)、美國(guó)和歐洲等在國(guó)家戰(zhàn)略和產(chǎn)業(yè)發(fā)展方面存在博弈，比如當(dāng)前美國(guó)對(duì)人工智能的態(tài)度是扶植這個(gè)產(chǎn)業(yè)的發(fā)展。如果放在整個(gè)人類層面，人工智能會(huì)不會(huì)被一些別有用心的人開(kāi)發(fā)設(shè)計(jì)出來(lái)，最后致使人類無(wú)法控制?既然人工智能的開(kāi)發(fā)與利用在未來(lái)有這種不可控的可能性，那么人工智能作為一個(gè)策略，國(guó)家產(chǎn)業(yè)發(fā)展政策或者整個(gè)人類社會(huì)該怎樣去引導(dǎo)?顯然當(dāng)我們所站在的利益層面不一樣，從不同的格局來(lái)看待，人工智能確實(shí)會(huì)帶來(lái)一些問(wèn)題，特別是當(dāng)人工智能有情感、有意識(shí)并有自我學(xué)習(xí)能力的時(shí)候。將來(lái)一些婚姻倫理問(wèn)題、情感問(wèn)題，諸如人類和機(jī)器人結(jié)婚，在立法上可以不承認(rèn)，但是當(dāng)這些確實(shí)又存在，就會(huì)成為一個(gè)問(wèn)題。

從現(xiàn)階段來(lái)看，人工智能仍然屬于一種工具層面的東西。如果從法律層面如民法層面上講，我們可以把它作為一種工具，一種物。但是對(duì)于其中一些有特殊情感的人工智能，在立法上我們將其作為一種特殊物來(lái)對(duì)待。當(dāng)我們站在未來(lái)發(fā)展的角度來(lái)講，我們現(xiàn)在對(duì)A I產(chǎn)業(yè)發(fā)展的規(guī)制，就是要保障未來(lái)人工智能能朝著一個(gè)健康的、可預(yù)測(cè)的方向發(fā)展，所以人工智能發(fā)展一定需要國(guó)家政策的監(jiān)管和引導(dǎo)。

人工智能最關(guān)鍵的東西，實(shí)際上就是它的算法。未來(lái)，我國(guó)乃至整個(gè)人類社會(huì)如何實(shí)現(xiàn)對(duì)這個(gè)算法的監(jiān)管，讓它朝著一個(gè)安全可控的方向去發(fā)展?當(dāng)然在研究這個(gè)算法的時(shí)候不僅需要相關(guān)領(lǐng)域的技術(shù)專家，還需要社會(huì)學(xué)等專家學(xué)者的共同參與，從而保障它的安全可控。宏觀上，我認(rèn)為整個(gè)國(guó)際社會(huì)都應(yīng)該朝著這個(gè)方向努力。

從民法層面來(lái)講，人工智能不僅會(huì)產(chǎn)生人工智能致人損害的問(wèn)題，還包括人工智能被損害的問(wèn)題。其被損害的不僅是硬件，可能還有軟件，比如非法入侵對(duì)人工智能造成損害的，未來(lái)還有人與人工智能共同生活時(shí)，人工智能遭受侵害的。按照我的理解，人工智能實(shí)際上就是民法上的特殊物，那么他人造成人工智能損害的，不僅要給予其物質(zhì)損害的賠償，還應(yīng)當(dāng)給予其精神損害賠償。

在人工智能產(chǎn)業(yè)的發(fā)展中，不僅會(huì)發(fā)生人工智能被侵入、人工智能的程序被修改等人工智能遭受他人侵害的問(wèn)題，還包括第三人介入的損害。這就需要在人工智能產(chǎn)業(yè)發(fā)展的時(shí)候注重信息安全，防止非法侵入。人機(jī)接口、人機(jī)混合體其實(shí)是我最擔(dān)憂的。人機(jī)混合體在未來(lái)的發(fā)展要不要受到控制，要不要受到引導(dǎo)?要的話，我們?cè)鯓尤タ刂啤⒃趺礃尤ヒ龑?dǎo)?

當(dāng)前的很多問(wèn)題都可以用我們?cè)械姆煽蚣軄?lái)解決。但是人工智能也確實(shí)引發(fā)了一些新的問(wèn)題，尤其是在政策引導(dǎo)、國(guó)家層面的、國(guó)際戰(zhàn)略上的新問(wèn)題。我們國(guó)家將來(lái)在這些方面要能夠起到一些引導(dǎo)作用，而非跟著別人走。