一個(gè)機(jī)器人帶著小狗外出，小狗進(jìn)入草坪攻擊小孩，草坪圍欄上寫(xiě)著“禁止踐踏”，這種情況下機(jī)器人是選擇進(jìn)入草坪制止小狗，還是遵守規(guī)則站在外面？

在CNCC2019（中國(guó)計(jì)算機(jī)大會(huì)）的分論壇“人工智能開(kāi)發(fā)的道德邊界在哪里？”上，中科院自動(dòng)化研究員曾毅舉例讓大家思考，人類到底該賦予機(jī)器何種智能？

以“智能+引領(lǐng)社會(huì)發(fā)展”為主題的CNCC2019于10月17日至19日在蘇州召開(kāi)，這是一個(gè)已經(jīng)延續(xù)16年的學(xué)術(shù)技術(shù)產(chǎn)業(yè)盛會(huì)。為期3天的大會(huì)包括3場(chǎng)大會(huì)主題論壇、79余場(chǎng)前沿技術(shù)論壇，15位國(guó)內(nèi)外計(jì)算機(jī)領(lǐng)域?qū)＜?、企業(yè)家作了大會(huì)特邀報(bào)告。與往年不同的是，除了豐富的技術(shù)內(nèi)容，今年大會(huì)把人工智能倫理作為一個(gè)重要議題。大會(huì)指導(dǎo)委員會(huì)主席、中科院院士梅宏解釋說(shuō)，這是科技人員應(yīng)該考慮的事情。

近幾年，人工智能發(fā)展迅速，很多應(yīng)用改變著日常生活，推進(jìn)了社會(huì)發(fā)展，但是也出現(xiàn)了諸如算法歧視、隱私侵犯等新問(wèn)題。關(guān)于人工智能的法律、倫理、社會(huì)問(wèn)題研究提上了很多部門(mén)和機(jī)構(gòu)的議事日程。

今年5月，曾毅所在的研究中心成立時(shí)，聯(lián)合北京大學(xué)、清華大學(xué)、中國(guó)科學(xué)院自動(dòng)化研究所等單位，共同發(fā)布了《人工智能北京共識(shí)》，提出人工智能的研發(fā)、使用、治理，應(yīng)該遵循有益于人類命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則，例如“善用與慎用原則”等。

6月，科技部對(duì)外公布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了和諧友好、公平公正、包容共享等8項(xiàng)原則。

今年4月，歐盟委員會(huì)也發(fā)布了人工智能倫理準(zhǔn)則。據(jù)統(tǒng)計(jì)，目前各國(guó)政府、各類組織、研究機(jī)構(gòu)和產(chǎn)業(yè)界頒布的有關(guān)人工智能倫理準(zhǔn)則提案已有50多個(gè)。

但是，曾毅發(fā)現(xiàn)，這些準(zhǔn)則因?yàn)楦髯砸暯遣煌?，所涉及的方面并不能相互覆蓋。他認(rèn)為，眼下急需的是對(duì)人工智能風(fēng)險(xiǎn)、倫理與治理進(jìn)行戰(zhàn)略研究，讓一些思考模型化、算法化、系統(tǒng)化，確保人工智能向更可依賴和對(duì)社會(huì)有益的方向發(fā)展。

復(fù)旦大學(xué)生命醫(yī)學(xué)倫理研究中心、應(yīng)用倫理學(xué)研究中心主任王國(guó)豫教授認(rèn)為，人工智能倫理起源于人們對(duì)人工智能技術(shù)風(fēng)險(xiǎn)的恐懼和擔(dān)憂，人工智能的倫理問(wèn)題不是單個(gè)的技術(shù)問(wèn)題，也不是算法問(wèn)題，而是源于技術(shù)系統(tǒng)和人的社會(huì)生活系統(tǒng)的交互作用，人工智能倫理應(yīng)該從可能性推測(cè)走向可行性探索。當(dāng)然，這需要更多跨學(xué)科合作。

北京大學(xué)長(zhǎng)聘副教授吳天岳近幾年關(guān)注人工智能、基因編輯等前沿科技帶來(lái)的倫理挑戰(zhàn)。他認(rèn)為，沒(méi)有現(xiàn)成的倫理規(guī)則用于人工智能，所以人類要有前瞻性。技術(shù)本身不是道德中立的，但是目標(biāo)要有道德標(biāo)準(zhǔn)。所以人工智能開(kāi)發(fā)者要有職業(yè)倫理意識(shí)，要讓技術(shù)人員明確，人工智能是為人類核心價(jià)值服務(wù)，不是為資本和權(quán)力服務(wù)的。他提出，人與人工智能要建立新型互動(dòng)關(guān)系。

據(jù)介紹，2018年，中國(guó)科學(xué)院大學(xué)開(kāi)設(shè)了《人工智能哲學(xué)與倫理》課程，北京大學(xué)、浙江大學(xué)、西安交通大學(xué)等高校也在陸續(xù)開(kāi)設(shè)人工智能倫理相關(guān)課程。

來(lái)源：環(huán)球網(wǎng)