誰在害怕人工智能：AI帶給人類的三大挑戰(zhàn)

“當(dāng)我看到柯潔在圍棋比賽中負(fù)于機(jī)器時(shí)痛哭的畫面，感到些許悲哀。作為世界頂級(jí)的圍棋選手，他卻被機(jī)器人擊敗了，并且在賽后說‘我回去讓機(jī)器復(fù)盤檢查錯(cuò)在哪里’。過去他只需自己復(fù)盤，而現(xiàn)在，機(jī)器會(huì)立即指出他的錯(cuò)誤。這說明，機(jī)器與人力已不處于同一段位了，在機(jī)器面前，人類如同孩童一般。機(jī)器教給人類最初級(jí)的下法，而其本身的下法人類已不可理解?！?/p>

“其他行業(yè)也面臨同樣的問題。如果機(jī)器學(xué)會(huì)作詩(shī)作曲，做出我們普遍喜歡的產(chǎn)品，那人類的生活就將完全改變?？梢韵胂竽莻€(gè)時(shí)代，杜甫將是極少數(shù)學(xué)院派研究的對(duì)象，因?yàn)闄C(jī)器已經(jīng)影響了我們對(duì)音樂、美術(shù)、戲劇表演的喜好，我們會(huì)喜歡機(jī)器讓我們喜歡的產(chǎn)品?！瘪T象對(duì)人工智能深刻改變?nèi)祟惿畹姆治鲆l(fā)了現(xiàn)場(chǎng)觀眾的深思。

世界排名第一的圍棋棋手柯潔對(duì)戰(zhàn)“阿爾法狗”

“我是阿爾法，機(jī)器人說，我是人工智能（AI）。人哪，你們準(zhǔn)備好沒有？”馮象在2018年出版的《我是阿爾法論法和人工智能》中寫道。曾經(jīng)看上去屬于未來、屬于科幻的人工智能已經(jīng)深度地介入到我們的生活，帶來了嚴(yán)峻且不可避免的挑戰(zhàn)，未來已經(jīng)來到，一切皆有可能。

4月20日，在文匯講堂暨華東師大第五屆思勉人文思想節(jié)期間，主辦方邀請(qǐng)清華大學(xué)梅汝法學(xué)講席教授、哈佛文學(xué)博士、耶魯法學(xué)博士馮象舉辦了一場(chǎng)“誰害怕人工智能”的講座，馮象從法律的角度切入，分析了人工智能的現(xiàn)在與未來。

清華大學(xué)梅汝法學(xué)講席教授、哈佛文學(xué)博士、耶魯法學(xué)博士馮象

“我”的隱私將變成“他們”的財(cái)產(chǎn)

傳感器、刷臉支付、大數(shù)據(jù)......隨著人工智能的發(fā)展，人們的個(gè)人隱私變得無處可隱、無法可隱，這也成為人工智能帶來的首要挑戰(zhàn)。機(jī)器智能如此普遍，以至于每個(gè)人的行為、習(xí)慣、喜好和信用表現(xiàn)等被忠實(shí)地記錄著，在這背后涉及的法律問題就是個(gè)人的隱私權(quán)。

隱私權(quán)是一項(xiàng)非常重要的法律權(quán)利，在美國(guó)，隱私權(quán)被確立為憲法上的基本權(quán)利，而中國(guó)正在編纂的統(tǒng)一《民法典》也將隱私權(quán)視為一項(xiàng)重要的民事權(quán)利。在如今的現(xiàn)實(shí)中，個(gè)人隱私權(quán)卻正在消失，而且由于機(jī)器智能的便利性，使得對(duì)其的維護(hù)也相當(dāng)困難?！拔覀?yōu)槭裁葱枰[私？我的客戶很樂意把隱私交給我們，因?yàn)槲覀兊姆?wù)能給他們帶來不可抗拒的便利?！瘪T象引用了臉書（Facebook）創(chuàng)始人馬克扎克伯格（Mark Zuckerberg）的言論來說明這種困難性。

與知識(shí)產(chǎn)權(quán)禁止他人隨意復(fù)制或使用相反，人工智能的商業(yè)模式是用便利的產(chǎn)品和服務(wù)，去換取開放的、免費(fèi)的個(gè)人信息。商業(yè)模式的本質(zhì)基礎(chǔ)是對(duì)價(jià)交易，而我們與各種app簽訂的協(xié)議使得我們付出的對(duì)價(jià)就是個(gè)人信息。個(gè)人數(shù)據(jù)被企業(yè)獲取，用于建立數(shù)據(jù)庫(kù)，再轉(zhuǎn)賣給第三方或者用于其他用途，例如開發(fā)新產(chǎn)品等等，被稱為“數(shù)字利維坦”（意指其利用數(shù)據(jù)進(jìn)行獨(dú)裁統(tǒng)治）的臉書層出不窮的數(shù)據(jù)丑聞就是一個(gè)明顯的例證。

扎克伯格出席臉書數(shù)據(jù)泄露事件聽證會(huì)

在信息時(shí)代，數(shù)據(jù)成為一種重要資源，其所蘊(yùn)含的巨大價(jià)值令業(yè)界希望將其財(cái)產(chǎn)化，數(shù)據(jù)的財(cái)產(chǎn)化將使得少數(shù)企業(yè)獲得難以估量的財(cái)富。雖然現(xiàn)在還沒有對(duì)數(shù)據(jù)財(cái)產(chǎn)化進(jìn)行立法，但它在事實(shí)上已經(jīng)是財(cái)產(chǎn)了，因?yàn)樗莻€(gè)人與網(wǎng)絡(luò)平臺(tái)交易的標(biāo)的物。但馮象對(duì)此提出了一系列的質(zhì)問：“試想，若將數(shù)據(jù)財(cái)產(chǎn)化，那數(shù)據(jù)的原始主人是誰？難道不是我們每一個(gè)人嗎？難道數(shù)據(jù)不是我們的財(cái)產(chǎn)嗎？若是這樣思考，臉書就無法運(yùn)營(yíng)了，因?yàn)樗枰c幾億人簽訂合同?！?/p>

不得不接受的“硬規(guī)則”

人工智能帶來的第二大挑戰(zhàn)，是將我們?cè)械纳鐣?huì)規(guī)則體系轉(zhuǎn)變成“硬規(guī)則”體系?！爸袊?guó)的馬路中間通常都設(shè)有一排鐵柵欄，用于分隔兩個(gè)車道，它強(qiáng)迫車輛必須在它自己的那條車道里行駛，不得越界?！瘪T象用一個(gè)生活中的現(xiàn)象來解釋什么是硬規(guī)則。

手機(jī)硬規(guī)則通過用戶點(diǎn)擊“同意”進(jìn)入系統(tǒng)，之后會(huì)顯示一份字體較孝內(nèi)容復(fù)雜的授權(quán)合同，幾乎一面倒地將權(quán)利給予了運(yùn)營(yíng)商。馮象將這份授權(quán)合同稱為“誰都看不懂的”合同，引發(fā)了觀眾有些無奈的笑聲。這種單方面為用戶制定的規(guī)則，它的邏輯非常簡(jiǎn)單要么同意，要么不用，用戶為了能夠使用并得到便利，一般都會(huì)同意。

某APP隱私政策

整個(gè)法律制度實(shí)際上被人工智能引領(lǐng)著走向了硬規(guī)則體系的方向，比如阿里巴巴這樣的企業(yè)，現(xiàn)在已擁有非常成熟的糾紛解決機(jī)制，政府也與之合作建立了互聯(lián)網(wǎng)法律。這令人感到無比害怕和憂慮，因?yàn)檫@將導(dǎo)致資本力量過于強(qiáng)大。從中國(guó)的國(guó)情與黨和政府的立場(chǎng)來看，立法必須回應(yīng)民眾的要求、呼聲與利益訴求，這也呼應(yīng)了中國(guó)共產(chǎn)黨為人民服務(wù)的宗旨。但是，如果規(guī)則的制定權(quán)大量落入企業(yè)手中，其結(jié)果就大為不同了。

硬規(guī)則的制定權(quán)越來越多地歸于商家，將使貧富差距迅速擴(kuò)大。馮象將舊富豪洛克菲勒家族與新貴扎克伯格進(jìn)行比較，扎克伯格在短短的幾年中就可以積累起前者幾代人才可以積累的財(cái)富。

網(wǎng)絡(luò)技術(shù)、網(wǎng)絡(luò)產(chǎn)業(yè)極大地推動(dòng)了社會(huì)的階級(jí)分化，這是全世界都有的一個(gè)大問題，去年的“基因編輯嬰兒”事件就引發(fā)了社會(huì)對(duì)于這一問題的擔(dān)憂。在利益的驅(qū)使下，占有技術(shù)優(yōu)勢(shì)的相關(guān)企業(yè)勢(shì)必不遺余力地攫取財(cái)富和權(quán)力，而資本在市場(chǎng)博弈中具有相當(dāng)?shù)拿つ啃裕珩R克思所說：“為了100％的利潤(rùn)，資本就敢踐踏一切人間法律；有300％以上的利潤(rùn)，資本就敢犯任何罪行，甚至去冒絞首的危險(xiǎn)?！?/p>

微軟小冰：要是能重來，我也不做李白

2017年，微軟（Microsoft）開發(fā)的人工智能少女小冰創(chuàng)作的詩(shī)集《陽(yáng)光失了玻璃窗》出版，吸引了許多人的關(guān)注，她還曾多次匿名給雜志報(bào)紙投稿，被《長(zhǎng)江詩(shī)刊》《北京晨報(bào)》《信報(bào)》等刊載。然而，仍有許多人不看好小冰創(chuàng)作的詩(shī)歌，認(rèn)為她不過是學(xué)習(xí)了五四以來的新文學(xué)，排列組合生產(chǎn)出幾句“詩(shī)”而已，與李白、杜甫相比則是天差地別。

《陽(yáng)光失了玻璃窗》，作者：小冰，出版社：北京聯(lián)合出版公司，2017年5月。

但馮象指出，微軟研發(fā)小冰的意圖并非是讓她成為李白、杜甫，正如AlphaGo團(tuán)隊(duì)研究圍棋并非是出于對(duì)圍棋的熱愛，華為研發(fā)5G產(chǎn)品也不是想成為愛因斯坦或牛頓，他們的根本目的只有一個(gè)占有市常

因此，小冰下一步如何進(jìn)行商業(yè)化發(fā)展，商業(yè)化之后如何改變我們與下一代對(duì)詩(shī)歌、文學(xué)以及藝術(shù)的感受，才是需要關(guān)注的大問題。微軟小冰團(tuán)隊(duì)以及競(jìng)爭(zhēng)者們或許已經(jīng)在基因?qū)用嫣剿魅祟悓?duì)文學(xué)和音樂的感受，以研發(fā)出能改變?nèi)祟愓J(rèn)知和喜好的產(chǎn)品，改變?nèi)藱C(jī)關(guān)系?！拔覍⑵浞Q作較為終極的挑戰(zhàn)，因?yàn)樗淖兞松囊饬x?！瘪T象對(duì)最后一大挑戰(zhàn)的總結(jié)振聾發(fā)聵。

一直以來，無論科學(xué)技術(shù)如何發(fā)展，政治朝代如何更迭，自遠(yuǎn)古留傳下來的宗教、倫理、法律、商業(yè)等方面的人類生活基本都存在共識(shí)。現(xiàn)在，今后的發(fā)展卻可能無法預(yù)測(cè)，因?yàn)槿祟悆?nèi)心最深處的一些愛好和習(xí)慣，以及智力所能投放的領(lǐng)域?qū)⒈蝗〈?/p>

但馮象在回答觀眾提問時(shí)同樣指出，人類最傳統(tǒng)的領(lǐng)域，比如宗教，可能是人工智能無法涉足的，因?yàn)闄C(jī)器不需要宗教。再如人本身對(duì)人的依賴和伴侶的需求，正如馬克思所說：“人是社會(huì)關(guān)系的總和”，人在這方面的需求可能是人工智能無法替代的。

資本主義因AI而滅共產(chǎn)主義的未來

人工智能提供的便利和規(guī)則正在溫水煮青蛙式地將人類逼至無法反抗的境地，在《我是阿爾法》一書中，馮象提出了兩種可能的最終解決方案：一是徹底知識(shí)產(chǎn)權(quán)化的暴政，二是數(shù)據(jù)國(guó)有化?！叭祟惾绻駻I而亡，一定是拜資本主義所賜；資本主義如果因AI而滅，則機(jī)器人必已認(rèn)識(shí)了真理。”

《我是阿爾法論法和人工智能》，作者：馮象，出版社：中國(guó)政法大學(xué)出版社，2018年10月

財(cái)富的高度集中必定會(huì)誘使更多專制和硬規(guī)則的普遍約束，就像法西斯專政一般。相反地，隨著政府部門越來越深地介入商業(yè)活動(dòng)，最終每次商業(yè)交易都必須由第三方政府參加，市場(chǎng)經(jīng)濟(jì)就會(huì)逐漸轉(zhuǎn)變?yōu)橛?jì)劃經(jīng)濟(jì)。而且隨著機(jī)器的大規(guī)模出現(xiàn)，分工不再重要，可能會(huì)實(shí)現(xiàn)共產(chǎn)主義。

列寧曾說，人類將按照科學(xué)的進(jìn)步程度來接受共產(chǎn)主義，共產(chǎn)主義在科學(xué)技術(shù)不發(fā)達(dá)的情況下是無法實(shí)現(xiàn)的。1960年代，一位蘇聯(lián)數(shù)學(xué)家提出綜合數(shù)學(xué)模型，解說計(jì)劃經(jīng)濟(jì)成功與失敗的可能性，并獲得了諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)。馮象受此啟發(fā)，認(rèn)為計(jì)劃經(jīng)濟(jì)并非過去式，只不過不適合科技欠發(fā)達(dá)的時(shí)代。但當(dāng)人工智能大量投入使用時(shí)，它將解放人們勞動(dòng)的雙手，計(jì)劃經(jīng)濟(jì)的計(jì)劃將非常完善，人類從此進(jìn)入自由發(fā)展的必然王國(guó)。

但在進(jìn)入公有制社會(huì)之前，我們還需對(duì)人機(jī)關(guān)系、人機(jī)倫理等進(jìn)行研究和規(guī)范。當(dāng)機(jī)器智能高度發(fā)展時(shí)，它將遠(yuǎn)遠(yuǎn)超過人類的知識(shí)、判斷力甚至道德選擇，那么讓機(jī)器獲得正確的智能而不是對(duì)人類有害的智能就尤為重要了。社會(huì)應(yīng)該讓科研受到強(qiáng)有力的倫理和法律的約束，減少錯(cuò)誤，以降低人類的安全風(fēng)險(xiǎn)。

機(jī)器必須理解人類美好生活的含義，才能幫助我們實(shí)現(xiàn)共產(chǎn)主義。那么，誰來教育人工智能，怎么教育人工智能？馮象認(rèn)為中國(guó)革命給了我們答案。毛主席撰寫的《紀(jì)念白求恩》一文寫道：“白求恩是毫無自私自利之心的人，是純粹高尚的人”。白求恩的理想人格可以給人機(jī)關(guān)系做出榜樣，讓人工智能更好地為人類服務(wù)。