機(jī)器人達(dá)到奇點(diǎn)并變得比我們聰明時(shí)，那么它們就會(huì)超出我們的控制。如果他們的程序中沒(méi)有被編入道德準(zhǔn)則，那么他們很可能會(huì)終結(jié)我們。這就造成了各種各樣的問(wèn)題。如何為道德編程?程序員眼中的道德是什么?如果機(jī)器人需要一個(gè)道德規(guī)范，誰(shuí)來(lái)決定這個(gè)道德規(guī)范是什么?

當(dāng)你在2018年與一名數(shù)字客戶(hù)助理交談時(shí)，你可能會(huì)覺(jué)得自己和一個(gè)人在說(shuō)話(huà)。到2029年，機(jī)器人可能會(huì)比我們聰明。雖然人工智能的想法令人興奮，但我們?nèi)匀徊磺宄斯ぶ悄茉谌粘Ｉ钪袝?huì)產(chǎn)生多大的影響。與人們談到人工智能時(shí)，有人表示他們非常向往悠閑的生活，因?yàn)闄C(jī)器人會(huì)替他們完成所有繁重的工作。而另外一些人則暗暗地告訴你，機(jī)器人注定要奴役我們。

對(duì)許多人來(lái)說(shuō)，我們之所以減緩對(duì)能獨(dú)立思考的機(jī)器人的追求，很可能源于我們對(duì)未知的恐懼(以及所有那些終結(jié)者電影)。但如果你曾經(jīng)用過(guò)自助付賬，和Siri說(shuō)過(guò)話(huà)，或者看過(guò)Netflix的視頻，那么你就已經(jīng)在和人工智能互動(dòng)了。自動(dòng)駕駛汽車(chē)、無(wú)人駕駛飛機(jī)和護(hù)理機(jī)器人很快將成為生活中正常的一部分。

奇點(diǎn)來(lái)臨

當(dāng)機(jī)器的智能超越人類(lèi)的智力的時(shí)，則被稱(chēng)為奇點(diǎn)。但是如果機(jī)器人決定不需要人類(lèi)的控制時(shí)會(huì)發(fā)生什么呢?

在《Futurescape with James Woods》的第二集中，首先出現(xiàn)的是一個(gè)機(jī)器人走向投票站。在抗議者的簇?fù)硐?，她的眼睛掃視著一個(gè)戴著徽章的男人，上面寫(xiě)著:“沒(méi)有靈魂就沒(méi)有投票權(quán)!”

Woods說(shuō)道:“人們認(rèn)為機(jī)器人投票很荒謬。正如我們所知道的，人們對(duì)1870年的黑人和20世紀(jì)初的婦女也有同樣的看法。我們目前還不會(huì)給程控機(jī)器人公民權(quán)利。因?yàn)樗麄儾荒芟裎覀円粯铀伎?。但是現(xiàn)在，這些界限已經(jīng)模糊了。每天我們都越來(lái)越接近人類(lèi)和機(jī)器真正融合并重新定義人類(lèi)的意義的那一天。”

人類(lèi)和機(jī)器的區(qū)別是什么呢?機(jī)器是可編程的，其修理也是機(jī)械的。我們也相信人類(lèi)有思想，有靈魂，有自由意志。但是，一些科學(xué)家認(rèn)為，總有一天，我們會(huì)發(fā)現(xiàn)大腦如何真正工作的線(xiàn)路，并最終消除人類(lèi)和機(jī)器人之間最后的屏障。

加州大學(xué)洛杉磯分校已經(jīng)開(kāi)始做這方面的研究。Arthur Toga博士正在繪制人腦中神經(jīng)元之間的聯(lián)系，這將給我們呈現(xiàn)出大腦的全貌。這不僅幫我們識(shí)別人類(lèi)的錯(cuò)誤布線(xiàn)，而且也能解密那些使我們?nèi)祟?lèi)獨(dú)一無(wú)二的特殊事物。

獲得意識(shí)

為了感受情感，機(jī)器人必須能夠具有意識(shí)。

未來(lái)學(xué)家Ray Kurzweil認(rèn)為，機(jī)器人將在2029年獲得意識(shí)，他指出，目前對(duì)人類(lèi)大腦的研究表明，神經(jīng)元之間的聯(lián)系是實(shí)時(shí)的。盡管科學(xué)家可以看到我們的大腦創(chuàng)造出的想法，但是想要在機(jī)器人中復(fù)制這種想法并不是合理的。由于這個(gè)原因，“機(jī)器人道德”的概念正吸引著來(lái)自神學(xué)、法律、心理學(xué)、倫理學(xué)，人權(quán)和哲學(xué)的學(xué)者們。

超人工智能

Stephen Hawking也談到人工智能，他警告稱(chēng)，“超人工智能”可能與人類(lèi)的末日一樣，而且持有類(lèi)似觀點(diǎn)的專(zhuān)家也越來(lái)越多。Steve Wozniak和Bill Gates警告說(shuō)，機(jī)器人可能會(huì)威脅到我們的生存。當(dāng)機(jī)器人達(dá)到奇點(diǎn)并變得比我們聰明時(shí)，那么它們就會(huì)超出我們的控制。如果他們的程序中沒(méi)有被編入道德準(zhǔn)則，那么他們很可能會(huì)終結(jié)我們。這就造成了各種各樣的問(wèn)題。如何為道德編程?程序員眼中的道德是什么?如果機(jī)器人需要一個(gè)道德規(guī)范，誰(shuí)來(lái)決定這個(gè)道德規(guī)范是什么?

其中一個(gè)答案是直接將行為規(guī)則編程到機(jī)器人的軟件中?？梢允蔷唧w的規(guī)則(如《十誡》)，也可以是理論如功利主義。重要的是，這些機(jī)器人一旦被賦予硬編碼指南，那么這些指南就可以作為機(jī)器人所有決策的基礎(chǔ)。這在理論上聽(tīng)起來(lái)不錯(cuò)，但讓機(jī)器人在現(xiàn)實(shí)中做出快速的決策可能非常困難。

另一種想法是自下而上的方法，機(jī)器從經(jīng)驗(yàn)中學(xué)習(xí)，而不是填鴨式似的被輸入各種必要的規(guī)則。這就減少了機(jī)器人電腦的壓力，因?yàn)樗恍枰紤]每個(gè)動(dòng)作的影響，而且可以簡(jiǎn)單地使用習(xí)慣性的反應(yīng)，促進(jìn)倫理和道德行為的有機(jī)發(fā)展。

質(zhì)疑人類(lèi)

如果我們能開(kāi)發(fā)出有意識(shí)的機(jī)器人，那么他們會(huì)成為人類(lèi)嗎?在這種情況下，難道他們不應(yīng)該享有和其他人一樣的權(quán)利嗎?

斯坦福大學(xué)的科學(xué)家們目前正致力于研發(fā)神經(jīng)網(wǎng)格，這是一種能夠?qū)崟r(shí)模擬大腦活動(dòng)的硬件。這臺(tái)超級(jí)計(jì)算機(jī)的大小相當(dāng)于一臺(tái)iPad，有朝一日可能成為一臺(tái)能獨(dú)立思考的機(jī)器。

神經(jīng)網(wǎng)格甚至可以復(fù)制人腦的線(xiàn)路。人類(lèi)和機(jī)器人之間的唯一區(qū)別，是人類(lèi)有更多的神經(jīng)通路，這意味著機(jī)器人能夠獨(dú)立思考只是時(shí)間問(wèn)題。

但是，如果機(jī)器人變得有自我意識(shí)，它們和我們的區(qū)別又會(huì)是什么呢?

Nao時(shí)代

Nao是一個(gè)身高為58厘米的人形機(jī)器人，它已經(jīng)可以講故事、走路以及做決定。但它所能做的遠(yuǎn)不止這些。Nao也有道德規(guī)范，在選擇行動(dòng)之前，它可以在任何情況下權(quán)衡所有的選擇。Nao使用一系列真實(shí)或虛假的陳述來(lái)識(shí)別傷害、利益以及每個(gè)選項(xiàng)的利弊。其創(chuàng)造者通過(guò)列舉生物倫理學(xué)家在自主性、利益和對(duì)病人的傷害方面已經(jīng)解決的沖突，來(lái)教授Nao圖和解決這些類(lèi)型的問(wèn)題。

Nao的學(xué)習(xí)算法允許它對(duì)這些病例進(jìn)行分類(lèi)，找出一些模式來(lái)幫助它在新的情況下做出決定。例如，Nao會(huì)根據(jù)患者病情的實(shí)際情況來(lái)提醒患者什么時(shí)候吃藥。當(dāng)一個(gè)患有輕微病情的患者不想現(xiàn)在吃藥時(shí)，Nao也會(huì)同意她當(dāng)前的做法，但是過(guò)一段時(shí)間還是會(huì)提醒她吃藥。

機(jī)器人會(huì)有感覺(jué)嗎?

人類(lèi)的生存依賴(lài)人類(lèi)彼此之間建立的緊密聯(lián)系，也依賴(lài)彼此的情感。我們從一出生就開(kāi)始表達(dá)自己的情感，也從其他人那里了解人類(lèi)的情緒。

Nao能夠下載新行為，進(jìn)行眼神交流，識(shí)別人臉，并對(duì)用戶(hù)作出反應(yīng)。這對(duì)患有自閉癥、受過(guò)過(guò)度刺激或語(yǔ)言溝通有障礙的兒童來(lái)說(shuō)是非常寶貴的，而且機(jī)器人可以幫助他們學(xué)會(huì)識(shí)別情緒。研究表明，實(shí)際上計(jì)算機(jī)比我們更擅長(zhǎng)閱讀與表達(dá)，這意味著我們對(duì)機(jī)器人說(shuō)謊越來(lái)越困難。

去年，Nao的創(chuàng)造者Aldebaran發(fā)布了一款新的機(jī)器人Pepper。這款機(jī)器人是第一個(gè)與人類(lèi)生活在一起的機(jī)器人，它能夠反映出用戶(hù)的情緒狀態(tài)——這是人類(lèi)在嬰兒時(shí)期開(kāi)始做的事情。這是雙向的，當(dāng)機(jī)器人反映我們的情緒時(shí)，我們本能地反映他們的情緒，感受與他們的聯(lián)系，并幫助他們完成任務(wù)。

雖然機(jī)器人還不能感知情感，但它們已經(jīng)能夠表現(xiàn)得像它們能夠做到一樣。2014年，一個(gè)名為Eugene的機(jī)器人通過(guò)了圖靈測(cè)試。這個(gè)測(cè)試的命名是為了紀(jì)念一位名為Alan Turing的計(jì)算機(jī)先行者。這個(gè)測(cè)試用于測(cè)試計(jì)算機(jī)是否能“智能化”，而且基本上是模擬游戲。一名人類(lèi)法官坐在電腦屏幕的一邊，與其他人類(lèi)交談，而且還有一個(gè)聊天機(jī)器人也在其中，該機(jī)器人被用來(lái)誘導(dǎo)法官，讓他認(rèn)為這也是人類(lèi)。

圖靈測(cè)試已經(jīng)存在了20多年，而且Eugene(被編程作為一名13歲男孩)讓33%的法官認(rèn)為它是人類(lèi)，這表明即使機(jī)器人已經(jīng)能夠足夠智能且有效地欺騙與它們所交流的三分之一的人類(lèi)，但它仍然還有很長(zhǎng)的路要走。

理解人格

歐洲議會(huì)投票贊成起草一項(xiàng)法規(guī)來(lái)管理人工智能和機(jī)器人的創(chuàng)造與使用，包括“電子人格”，這將賦予機(jī)器人權(quán)利和責(zé)任。

在美國(guó)現(xiàn)行法律下，公司是法人。那么為什么機(jī)器人或電子人不能成為人呢?這將對(duì)制造機(jī)器人的公司產(chǎn)生巨大影響。如果他們創(chuàng)造出一個(gè)機(jī)器人，而那個(gè)機(jī)器人創(chuàng)造出一個(gè)可以申請(qǐng)專(zhuān)利的產(chǎn)品，那么誰(shuí)會(huì)擁有專(zhuān)利呢?機(jī)器人?還是公司?

更重要的是，作為“人”很重要的權(quán)利就是投票權(quán)。很多人認(rèn)為，如果機(jī)器人對(duì)自己的行為負(fù)責(zé)，那么他們應(yīng)該有權(quán)投票或擔(dān)任陪審員。但是要想投票，機(jī)器人需要對(duì)正確和錯(cuò)誤有一個(gè)非常綜合的理解。

人類(lèi)擁有的另一項(xiàng)關(guān)鍵的權(quán)利是繁衍后代。因?yàn)闄C(jī)器人能夠?qū)崿F(xiàn)無(wú)限的自我復(fù)制，因此允許他們投票就必須能夠有效地控制他們。正是出于這個(gè)原因，許多倫理學(xué)家認(rèn)為，機(jī)器人應(yīng)該有繁殖的權(quán)利，或者投票的權(quán)利，但不是兩者兼具。

Ryan Calo是華盛頓大學(xué)專(zhuān)攻網(wǎng)絡(luò)法律和機(jī)器人技術(shù)的法學(xué)教授。他供職于CITRIS，這是一個(gè)關(guān)于人和機(jī)器人的咨詢(xún)委員會(huì)。他把這種困境稱(chēng)為“復(fù)制與投票悖論”。

如果有一天人工智能機(jī)器聲稱(chēng)它已經(jīng)具有了人格，有知覺(jué)，能感知痛苦與快樂(lè)，有尊嚴(yán)，而且我們又無(wú)法反駁的時(shí)候，我們可能無(wú)法否認(rèn)它將和我們享受的一樣的人權(quán)。如果那臺(tái)機(jī)器聲稱(chēng)它應(yīng)該能夠繁殖和投票，然后無(wú)限地復(fù)制自己，那么民主就會(huì)完全被破壞。

所以,機(jī)器人應(yīng)該有投票權(quán)嗎?

機(jī)器人應(yīng)該投票嗎?

一旦機(jī)器人變成了“人”，享受與人類(lèi)同樣的權(quán)利，他們也必須承擔(dān)同樣的責(zé)任。這就意味著機(jī)器人將會(huì)由于造成傷害或犯錯(cuò)誤而被控告，并且在法律體系下也會(huì)受到懲罰。

同時(shí)還存在另外一個(gè)問(wèn)題。雖然歐盟可能準(zhǔn)備授予機(jī)器人人格，而且美國(guó)正鼓勵(lì)使用倫理，但誰(shuí)能說(shuō)其他國(guó)家也會(huì)這么做呢?隨著世界各國(guó)開(kāi)始利用人工智能，自主機(jī)器人制造生命或死亡的決定可能很快成為戰(zhàn)爭(zhēng)的共同特征。中國(guó)和俄羅斯政府已經(jīng)在努力爭(zhēng)取超越其他國(guó)家的優(yōu)勢(shì)，從而發(fā)起一場(chǎng)新的軍備競(jìng)賽。

來(lái)自澳大利亞新南威爾士大學(xué)的Toby Walsh教授已經(jīng)多次向聯(lián)合國(guó)提出建議，倡導(dǎo)成立一個(gè)國(guó)際機(jī)構(gòu)來(lái)預(yù)防“機(jī)器人成為另一種戰(zhàn)爭(zhēng)武器”。

毫無(wú)疑問(wèn)，人工智能的倫理意義將是人類(lèi)未來(lái)50年面臨的最大挑戰(zhàn)之一。理想情況下，我們最終將能夠利用機(jī)器人和人類(lèi)的力量，并在道德方面對(duì)它們進(jìn)行整合，未來(lái)之路必將荊棘叢生。