反面部識(shí)別系統(tǒng)被多倫多大學(xué)開發(fā) 人臉識(shí)別率降至0.5%
面部識(shí)別系統(tǒng)是有爭(zhēng)議的,至少可以這樣說。上周,亞馬遜因向執(zhí)法機(jī)構(gòu)提供面部掃描技術(shù)而成為頭條新聞。研究表明,一些面部識(shí)別算法對(duì)某些種族存在固有的偏見。
人們對(duì)這種人工智能監(jiān)視系統(tǒng)的擔(dān)憂,促使多倫多的研究人員開發(fā)了一種針對(duì)它們的工具。多倫多大學(xué)的教授Parham Aarabi和研究生Avishek Bose發(fā)明了一種算法,通過對(duì)圖像進(jìn)行光轉(zhuǎn)換,動(dòng)態(tài)地破壞面部識(shí)別系統(tǒng)。
“隨著面部識(shí)別技術(shù)越來越先進(jìn),個(gè)人隱私成為了一個(gè)真正的問題,”Aarabi在一份聲明中說,“這就是反面部識(shí)別系統(tǒng)的用武之地。”
旨在破壞面部識(shí)別的產(chǎn)品和軟件并不是什么新鮮事物。在2016年11月的一項(xiàng)研究中,美國(guó)卡內(nèi)基梅隆大學(xué)的研究人員設(shè)計(jì)了一種眼鏡框,可以誤導(dǎo)面部識(shí)別系統(tǒng),使其產(chǎn)生錯(cuò)誤的識(shí)別。在2017年11月,麻省理工學(xué)院和日本九州大學(xué)的專家們用一種算法將一幅3D打印的海龜?shù)恼掌瑯?biāo)記為了步槍,方法是改變照片中的一個(gè)像素。
但根據(jù)Bose和Aarabi的說法,這是使用人工智能的首批解決方案之一。他們的算法是在600張人臉的數(shù)據(jù)集上進(jìn)行訓(xùn)練的,它會(huì)發(fā)出一個(gè)實(shí)時(shí)的過濾器,可以應(yīng)用到任何圖片上。因?yàn)樗哪繕?biāo)——圖像中的單個(gè)像素——是特定的,因此它幾乎是肉眼無法察覺的。
這兩名研究人員采用了對(duì)抗訓(xùn)練(adversarial training)技術(shù)。這種技術(shù)使兩個(gè)神經(jīng)網(wǎng)絡(luò)相互對(duì)抗——一個(gè)神經(jīng)網(wǎng)絡(luò)從數(shù)據(jù)中獲得信息,另一個(gè)試圖破壞第一個(gè)神經(jīng)網(wǎng)絡(luò)的任務(wù)。Aarabi和Bose的系統(tǒng)使用第一個(gè)神經(jīng)網(wǎng)絡(luò)來識(shí)別人臉,并利用第二個(gè)神經(jīng)網(wǎng)絡(luò)來擾亂面部識(shí)別過程。
他們的研究報(bào)告將在2018年IEEE國(guó)際多媒體信號(hào)處理研討會(huì)上發(fā)表。Bose和Aarabi聲稱,他們的算法將人臉識(shí)別系統(tǒng)中被檢測(cè)到的人臉的比例降低到了0.5%。他們希望在應(yīng)用或網(wǎng)站上提供這種神經(jīng)網(wǎng)絡(luò)系統(tǒng)。
“十年前,這些算法必須是人類定義的,但現(xiàn)在神經(jīng)網(wǎng)絡(luò)可以自己學(xué)習(xí)——除了訓(xùn)練數(shù)據(jù)之外,你不需要提供任何東西,”Aarabi說,“最終,他們可以做一些非常了不起的事情。這是一個(gè)很有意思的領(lǐng)域,有著巨大的潛力。”