蒙克全球事務(wù)學(xué)院：人工智能與社會(huì)面臨的選擇、風(fēng)險(xiǎn)和機(jī)遇

自兩會(huì)開始以來，李彥宏、楊元慶、鄧中翰等企業(yè)家、科學(xué)家代表提交了不少與人工智能相關(guān)的提案，人工智能成為政府、各產(chǎn)業(yè)、學(xué)界等人士的關(guān)注重點(diǎn)。此前，加拿大-英國學(xué)術(shù)討論會(huì)（CUKC）于多倫多大學(xué)蒙克全球事務(wù)與公共政策學(xué)院舉行，并發(fā)布報(bào)告《人工智能與社會(huì)面臨的選擇、風(fēng)險(xiǎn)和機(jī)遇》，探討的關(guān)鍵議題包括深度學(xué)習(xí)的開發(fā)和應(yīng)用，大數(shù)據(jù)和隱私的影響以及AI在網(wǎng)絡(luò)防御、安全等領(lǐng)域的應(yīng)用，并特別關(guān)注了AI對勞動(dòng)力市場和社會(huì)不平等的影響，以及AI的倫理問題。

一、加拿大和英國的AI生態(tài)體系

加拿大政府專注于四大目標(biāo)：在基礎(chǔ)技術(shù)方面持續(xù)投入；建立戰(zhàn)略性創(chuàng)新基金以吸引商業(yè)投資；通過建立AI道德規(guī)范和市場框架，培養(yǎng)公眾的興趣和信心；依托G7和G20開展國際合作。2017年，加拿大政府宣布將由加拿大高級(jí)研究院（CIFAR）實(shí)施一項(xiàng)價(jià)值125億美元的泛加拿大人工智能戰(zhàn)略。

加拿大2018年AI生態(tài)系統(tǒng)

英國人工智能生態(tài)系統(tǒng)有六大實(shí)力基礎(chǔ)，包括具有領(lǐng)先水平的研究基礎(chǔ)；成熟的人才渠道對人才的培養(yǎng)和供給；大量的風(fēng)險(xiǎn)資本投資支持AI創(chuàng)業(yè)公司；公共機(jī)構(gòu)致力于人工智能創(chuàng)新；當(dāng)?shù)赜脩舨杉{新技術(shù)的興趣和意愿；針對新興技術(shù)的監(jiān)管方法。

二、向善的人工智能——倫理、政策和治理

加拿大政府正在調(diào)查人工智能等新興技術(shù)對外交政策和全球態(tài)勢的影響。人工智能和自動(dòng)化或可反映并加劇社會(huì)分裂、人權(quán)問題等社會(huì)問題。

數(shù)據(jù)所有權(quán)和隱私問題也不容忽視。數(shù)據(jù)作為一種經(jīng)濟(jì)商品，其重要性日益增加，更易成為國內(nèi)外攻擊者目標(biāo)。鑒于私營部門在該領(lǐng)域的影響力，政府需要與大型科技公司合作。

從地緣政治的角度來看，人工智能正在重塑全球權(quán)力結(jié)構(gòu)。各國競相主導(dǎo)人工智能的研究、商業(yè)化、以及規(guī)范標(biāo)準(zhǔn)的制定。

就業(yè)前景的劇烈變化是進(jìn)一步采用人工智能和自動(dòng)化的預(yù)期結(jié)果。

政策制定者可以從互聯(lián)網(wǎng)的發(fā)展中汲取教訓(xùn)。到2018年底，全球僅一半人口可以上網(wǎng)。由于人工智能和互聯(lián)網(wǎng)高度集成，因此全球?qū)θ斯ぶ悄艿脑L問也存在不均衡。

互聯(lián)網(wǎng)用戶數(shù)據(jù)的增長

多樣性欠缺，這可能將社會(huì)偏見轉(zhuǎn)化為算法偏見。特別值得注意的是計(jì)算機(jī)科學(xué)和人工智能中的女性比例極低。

三、人工智能的法律含義——法規(guī)、隱私和道德問題

在透明度方面，要求相關(guān)方提供關(guān)于自動(dòng)決策內(nèi)在邏輯且具有意義的信息。但鑒于不透明度問題，可能難以遵守這一要求：人工智能算法具有內(nèi)在“黑匣子”性質(zhì)；公眾對算法的不理解；企業(yè)有意識(shí)地保護(hù)商業(yè)秘密和知識(shí)產(chǎn)權(quán)。

在公平方面，歧視關(guān)乎差異化，但并不總是消極的。在培訓(xùn)數(shù)據(jù)集中，很有可能存在中立歧視和法律歧視。但是，編輯數(shù)據(jù)、刪除人員的受保護(hù)特征可能會(huì)破壞數(shù)據(jù)集的潛在好處。數(shù)據(jù)最小化可能與機(jī)器學(xué)習(xí)算法的目標(biāo)和方法相沖突。

人們認(rèn)為機(jī)器人是危險(xiǎn)的，而人類是客觀、公平、不偏不倚的。法規(guī)通常旨在保護(hù)人類免受機(jī)器傷害。但事實(shí)上，人類不僅表現(xiàn)出偏見，而且這種偏見常常是無意識(shí)的。機(jī)器學(xué)習(xí)技術(shù)可以識(shí)別我們無意識(shí)的偏見，并為我們提供改進(jìn)決策方式的機(jī)會(huì)。

如何平衡基于原則的方法和基于規(guī)則的方法。在事后回顧情況下，基于原則的方法可以很好地識(shí)別個(gè)體行為者，并提前評(píng)估和管理風(fēng)險(xiǎn)。但這在復(fù)雜的網(wǎng)絡(luò)化生態(tài)系統(tǒng)（例如自動(dòng)駕駛車輛）中可能并不可行，許多參與者可以預(yù)先自動(dòng)實(shí)施詳細(xì)規(guī)則。

人們對法律程序中使用電子證據(jù)存在擔(dān)憂。當(dāng)軟件可能包含錯(cuò)誤，當(dāng)任何單一結(jié)果都依賴于廣泛分布的設(shè)備上的軟件代碼，或者無人能夠在法庭上對AI決策進(jìn)行解釋，問題變得更加嚴(yán)峻。因此，如果無法在法定程序中測試計(jì)算機(jī)的可靠性，那么就應(yīng)當(dāng)反對其具有可靠性的預(yù)先假設(shè)。

四、大數(shù)據(jù)與隱私保護(hù)

在認(rèn)識(shí)到大數(shù)據(jù)和機(jī)器學(xué)習(xí)帶來風(fēng)險(xiǎn)的同時(shí)，也不應(yīng)忽視其為日常生活帶來的好處。開源數(shù)據(jù)研究所（Open Data Institute）與企業(yè)和政府合作，建立了一個(gè)開放、可信的數(shù)據(jù)生態(tài)系統(tǒng)。社會(huì)必須投入高質(zhì)量、標(biāo)準(zhǔn)化的數(shù)據(jù)，使其對創(chuàng)新和決策而言是可靠、有用的。

公開購買和同意原則至關(guān)重要。應(yīng)當(dāng)使用清晰、通俗的語言討論數(shù)據(jù)所有權(quán)和數(shù)據(jù)訪問。開源數(shù)據(jù)研究所提出一個(gè)簡單的分類系統(tǒng)，如圖所示，數(shù)據(jù)在圖中所處的頻譜位置決定其獲得何種許可。

數(shù)據(jù)頻譜

五、人工智能與勞動(dòng)力——自動(dòng)化、就業(yè)和效率

英國政府試圖對人工智能應(yīng)用進(jìn)行管理，促進(jìn)一個(gè)人工智能驅(qū)動(dòng)的未來。例如，在能源、醫(yī)療、食品、農(nóng)業(yè)領(lǐng)域的人工智能能夠驅(qū)動(dòng)25%的生產(chǎn)率。人工智能應(yīng)用領(lǐng)先的國家可能成為21世紀(jì)的經(jīng)濟(jì)主導(dǎo)者。因此，英國需要考慮采取相關(guān)措施，包括：建立人工智能辦公室、建立數(shù)據(jù)倫理與創(chuàng)新中心、建立人工智能委員會(huì)。這些機(jī)構(gòu)將給政府提供專業(yè)人士，發(fā)現(xiàn)機(jī)遇和挑戰(zhàn)，并且提出政策和監(jiān)管建議。