科技是把雙刃劍 舊金山將成為美國(guó)第一個(gè)禁止人臉識(shí)別的城市
人臉識(shí)別技術(shù)正在突飛猛進(jìn),在它最先興起的地方,一些人已經(jīng)警惕起來。
人臉識(shí)別是當(dāng)下人工智能的熱門領(lǐng)域之一。但對(duì)于人臉識(shí)別是否應(yīng)該用于執(zhí)法,美國(guó)正處于立法爭(zhēng)議階段,部分地方政府對(duì)人臉識(shí)別技術(shù)展現(xiàn)出了謹(jǐn)慎和排斥的傾向。有報(bào)道稱,舊金山或?qū)⒊蔀槊绹?guó)第一個(gè)禁止人臉識(shí)別的城市。
今年1月,舊金山提出了一項(xiàng)關(guān)于監(jiān)視技術(shù)的行政法規(guī)——《停止秘密監(jiān)視條例》。針對(duì)人臉識(shí)別技術(shù),該條例特別指出。如果該提案通過,舊金山將成為美國(guó)第一個(gè)禁止政府使用人臉識(shí)別技術(shù)的城市,并將對(duì)政府部門購(gòu)買和使用監(jiān)控技術(shù)加以監(jiān)督。
該提案聲稱,人臉識(shí)別技術(shù)所帶來的威脅已經(jīng)“大大超過了它所宣稱的好處”。該提案受到了包括美國(guó)公民自由聯(lián)盟(ACLU)等公民團(tuán)體的支持。
需要指出的是,舊金山對(duì)人臉識(shí)別的禁止,并不是全城區(qū)域內(nèi)禁止,只是對(duì)政府利用人臉識(shí)別技術(shù)的一定程度上的限制。至于商業(yè)上的應(yīng)用,比如手機(jī)刷臉支付,則并不在此之列。
而美國(guó)公民自由協(xié)會(huì)曾用美國(guó)國(guó)會(huì)議員的照片,對(duì)亞馬遜公司的人臉識(shí)別系統(tǒng)Rekognition進(jìn)行了測(cè)試,結(jié)果是,系統(tǒng)將28位議員錯(cuò)誤地識(shí)別為涉嫌犯罪的被捕者。美國(guó)公民自由協(xié)會(huì)懷疑系統(tǒng)存在種族歧視,因?yàn)樵跍y(cè)試中,被錯(cuò)誤識(shí)別者中約40%是有色人種,但有色人種只占國(guó)會(huì)議席的20%。
同時(shí)麻省理工學(xué)院對(duì)于微軟、Facebook、IBM等公司人臉識(shí)別系統(tǒng)的測(cè)試也表明,系統(tǒng)在檢測(cè)膚色較深的女性時(shí),出錯(cuò)率要比檢測(cè)膚色較淺的男性高出35%。這將強(qiáng)化社會(huì)對(duì)于少數(shù)族裔與邊緣群體的偏見。
導(dǎo)致這種錯(cuò)誤發(fā)生在用于訓(xùn)練識(shí)別算法的人臉里,男性和白人面孔占了大多數(shù)。一般來說,人臉識(shí)別的準(zhǔn)確度與喂食算法的人臉數(shù)量和多元性成正比。技術(shù)無偏見,技術(shù)的偏見源于人類的偏見和不加糾正的利用。
就目前來看,如果不對(duì)面部識(shí)別加以限制和監(jiān)管,它對(duì)于隱私與自由的威脅遠(yuǎn)比想象的要多。面部識(shí)別主要依賴的是人的面部信息,而這是具有唯一性特征的生物信息,類似信息包括指紋、虹膜,一旦泄露將是終身泄露。何況面部識(shí)別訓(xùn)練的背后,也隱藏著許多的“骯臟的小秘密”,例如我們的照片在未經(jīng)允許的情況下被用于訓(xùn)練人臉識(shí)別系統(tǒng),而這個(gè)系統(tǒng)最終可能被出售或用于監(jiān)視。
據(jù)NBC報(bào)道,IBM從Flickr網(wǎng)站上抓取了近100萬張照片用于訓(xùn)練人臉識(shí)別算法,包括一些攝影師拍攝的人臉圖像以及自拍照,但他們對(duì)此毫不知情,其中一位奧地利攝影師有超過700張照片被用于研究面部識(shí)別技術(shù)。據(jù)CNN、NBC報(bào)道,類似的公司也常從Flickr、Instagram、YouTube、Facebook、Google等網(wǎng)站以及圖片庫(kù),免費(fèi)抓取人臉圖像以喂食算法系統(tǒng)。這些訓(xùn)練并不僅僅是學(xué)術(shù)研究,最終會(huì)被拿來賺錢。
這種未經(jīng)許可的行為在伊利諾伊州是違法的,但該州只是通過一項(xiàng)《生物識(shí)別信息隱私法》來限制人臉識(shí)別技術(shù)對(duì)公民隱私的侵犯,規(guī)定獲取生物識(shí)別數(shù)據(jù)的任何個(gè)人、公司或組織必須首先獲得用戶簽名(例如,通過在屏幕上單擊“我同意”)。許多其他州已經(jīng)或正在考慮自己的生物識(shí)別法律,但是目前只有德克薩斯州和華盛頓州制定了類似的法律。
不可否認(rèn),人臉識(shí)別技術(shù)為警方偵破案件提供了巨大的幫助。但在法律對(duì)技術(shù)做出規(guī)范之前,應(yīng)該避免技術(shù)被濫用。人臉識(shí)別技術(shù)的批評(píng)者認(rèn)為,即便是政府,也不應(yīng)在沒有明確的監(jiān)督體系的情況下使用監(jiān)控技術(shù)。
由此可見,在我們享受科技進(jìn)步所帶來紅利背后,相關(guān)法律法規(guī)也應(yīng)根據(jù)技術(shù)發(fā)展現(xiàn)狀和趨勢(shì)及時(shí)跟進(jìn),以適應(yīng)社會(huì)發(fā)展的要求。而如果對(duì)新技術(shù)理解出現(xiàn)偏差,急躁立法也會(huì)打壓新技術(shù)的進(jìn)步。如何在技術(shù)進(jìn)步和現(xiàn)實(shí)應(yīng)對(duì)之間取得平衡,無疑對(duì)相關(guān)立法提出了巨大挑戰(zhàn)。
一項(xiàng)新技術(shù)得以蓬勃發(fā)展,必定是因?yàn)橛行枨?。近幾十年來,新技術(shù)發(fā)展日新月異,改造著人類生活的方方面面。在新技術(shù)的應(yīng)用中,必然會(huì)帶來一些新問題,但單純的禁止是因噎廢食,正確的做法是,用客觀、理性、發(fā)展、審慎的態(tài)度,針對(duì)具體情況進(jìn)行公開的、廣泛的具體分析,從而做到趨利避害。