近日，兩件與人工智能技術(shù)應(yīng)用有關(guān)事件引發(fā)社會(huì)廣泛關(guān)注。第一件是一款視頻編輯軟件在社交媒體刷屏。該軟件可以方便、快速地將視頻中人物換為用戶上傳的任意人的臉。實(shí)際上，這種視頻換臉很早以前利用專業(yè)視頻編輯軟件也可以實(shí)現(xiàn)，不過(guò)需要使用者有相應(yīng)的技術(shù)，過(guò)程復(fù)雜?，F(xiàn)在人工智能技術(shù)將這一復(fù)雜的技術(shù)過(guò)程簡(jiǎn)單化、快速化，普通人也可以輕松駕馭。第二件是一張學(xué)生課堂行為分析的圖片，人工智能技術(shù)將學(xué)生抬頭、看手機(jī)、低頭、記筆記、打瞌睡等行為進(jìn)行統(tǒng)計(jì)標(biāo)明。

換臉應(yīng)用有兩點(diǎn)需要我們警惕：一是這種技術(shù)對(duì)社會(huì)信息傳播秩序帶來(lái)的沖擊。慣常來(lái)說(shuō)，視頻對(duì)信息的保真度是高于文字和圖片的，視頻能夠相對(duì)準(zhǔn)確傳播信息，是社會(huì)信息傳播系統(tǒng)重要的媒介符號(hào)。這種易得、簡(jiǎn)單的換臉應(yīng)用程序，如果被濫用勢(shì)必引發(fā)傳播秩序的混亂。二是這類(lèi)應(yīng)用軟件收集人臉信息的合法性、安全性、可靠性存疑。人的面部、虹膜、指紋等生物特征識(shí)別信息，是重要的個(gè)人隱私信息。這類(lèi)信息的重要性遠(yuǎn)大于地址、密碼等類(lèi)型信息。地址、密碼可以修改，面部特征、指紋等生物信息終身唯一，無(wú)法更改，泄露后果的嚴(yán)重性，怎么說(shuō)都不為過(guò)。如果這類(lèi)信息一旦泄露，無(wú)可挽回，技術(shù)的開(kāi)發(fā)者也無(wú)能為力，不論是技術(shù)開(kāi)發(fā)者主觀濫用，還是遭到黑客攻擊、無(wú)意泄露，都難以挽回。現(xiàn)在刷臉在金融支付、交通出行、公共安全等領(lǐng)域已經(jīng)廣泛應(yīng)用。面部生物信息的泄露，給整個(gè)社會(huì)體系帶來(lái)的影響難以估量。

人工智能將學(xué)生課堂行為量化分析的問(wèn)題在于，一是這種技術(shù)對(duì)學(xué)生行為分析的準(zhǔn)確性、可靠性與可信度存疑。人工智能終究是一種算法，其當(dāng)下能做到的是對(duì)個(gè)體行動(dòng)軌跡的捕捉，不具備對(duì)人類(lèi)豐富復(fù)雜的社會(huì)行為及其發(fā)生的場(chǎng)景準(zhǔn)確判斷和識(shí)別。同樣是一個(gè)動(dòng)作其意義可能差別很大。技術(shù)可以檢測(cè)到學(xué)生低頭寫(xiě)字，但到底寫(xiě)的是上課內(nèi)容還是無(wú)關(guān)信息，顯然再高級(jí)的人工智能也無(wú)法判斷。人工智能可以準(zhǔn)確識(shí)別學(xué)生是否出勤，但將課堂這么復(fù)雜豐富的人類(lèi)行為場(chǎng)景，進(jìn)行絕對(duì)量化的分析，不可靠。其次，即使技術(shù)上是可靠的，那么這種將學(xué)生課堂學(xué)習(xí)的行為如此量化來(lái)管理的道德正當(dāng)性存疑。我們講教育以人為本，因材施教，人不是機(jī)器，不能將學(xué)生行為進(jìn)行徹底的數(shù)字化管理，技術(shù)不能奴役人。

這兩件事反映出人工智能技術(shù)在快速發(fā)展和廣泛應(yīng)用，然而我們整個(gè)社會(huì)似乎對(duì)這種技術(shù)的認(rèn)識(shí)還有待深化，對(duì)其帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)還沒(méi)有做好治理準(zhǔn)備。

在認(rèn)識(shí)方面，人工智能技術(shù)可以高效、有效解決很多領(lǐng)域的問(wèn)題，但要避免所有問(wèn)題都由人工智能解決。人工智能對(duì)解決那些機(jī)械、枯燥、數(shù)據(jù)量龐大的、簡(jiǎn)單重復(fù)問(wèn)題有效，但其缺少人情味、人性，所以在需要體現(xiàn)人的精神、情趣、想象、體現(xiàn)人性的工作，一定要人來(lái)做，不能一味追求技術(shù)解決。技術(shù)不是萬(wàn)能的。

人工智能技術(shù)治理關(guān)鍵是抓住三個(gè)核心關(guān)鍵問(wèn)題：算法、數(shù)據(jù)和算力。政府要在涉及算法和數(shù)據(jù)兩方面來(lái)立法和監(jiān)督。要確保算法公開(kāi)透明、可監(jiān)督。數(shù)據(jù)方面對(duì)相關(guān)技術(shù)產(chǎn)品使用數(shù)據(jù)的種類(lèi)、規(guī)模方面強(qiáng)化監(jiān)管。在涉及人面部特征信息、指紋、血液等人體生物特征信息要設(shè)立嚴(yán)格的標(biāo)準(zhǔn)，從采集、傳輸、存儲(chǔ)等環(huán)節(jié)規(guī)制，確保涉及個(gè)人安全和國(guó)家安全信息不被濫用和安全可控。數(shù)據(jù)應(yīng)用的用戶規(guī)模要與企業(yè)的安全保障能力匹配。此外，在涉及重要領(lǐng)域和廣泛人群的技術(shù)應(yīng)用要建立人工智能使用的倫理與安全評(píng)估機(jī)制，類(lèi)似于醫(yī)學(xué)研究的倫理評(píng)估環(huán)節(jié)，確保技術(shù)發(fā)展的正確方向和合理使用。建立第三方專業(yè)組織監(jiān)督人工智能技術(shù)應(yīng)用的安全性、可靠性與可控性。

企業(yè)要落實(shí)主體責(zé)任。在技術(shù)開(kāi)發(fā)環(huán)節(jié)，遵循人工智能開(kāi)發(fā)的基本原則：公平、可靠與安全、隱私與保障、包容、透明和負(fù)責(zé)，確保技術(shù)的可靠性、合法性和符合人類(lèi)倫理規(guī)范。企業(yè)要有底線意識(shí)，不觸犯相關(guān)的法律法規(guī)，要遵循基本的社會(huì)價(jià)值規(guī)范和公共道德，承擔(dān)相應(yīng)的社會(huì)責(zé)任。在各個(gè)軟件分發(fā)平臺(tái)，要嚴(yán)格檢驗(yàn)應(yīng)用的權(quán)限，確保用戶下載應(yīng)用的安全可靠性。

用戶方面，要提升公眾的技術(shù)使用素養(yǎng)，培養(yǎng)正確認(rèn)識(shí)、合理使用技術(shù)的能力。也要研究在人工智能技術(shù)應(yīng)用場(chǎng)景中，考慮用戶選擇權(quán)，包括是否使用人工智能技術(shù)以及使用的程度。

人工智能作為革命性的新技術(shù)，沒(méi)有人能準(zhǔn)確預(yù)測(cè)技術(shù)的未來(lái)結(jié)果。在對(duì)互聯(lián)網(wǎng)治理上我們過(guò)去奉行“先發(fā)展后治理”的理念，人工智能技術(shù)應(yīng)用的行業(yè)領(lǐng)域廣泛、算法不透明、結(jié)果隱蔽，其治理與要其發(fā)展同步，應(yīng)秉持“邊發(fā)展邊治理”的理念。最終讓人工智能技術(shù)更好服務(wù)人類(lèi)社會(huì)發(fā)展。

來(lái)源：光明日?qǐng)?bào)