美國(guó)科技媒體The Intercept和美國(guó)國(guó)家研究院非盈利調(diào)查基金的最新報(bào)告顯示，IBM與紐約市警察局合作開(kāi)發(fā)了一種系統(tǒng)，讓警方可以根據(jù)膚色、發(fā)色、性別、年齡和各種面部特征去搜索相關(guān)人員。

該報(bào)告引用“機(jī)密公司文件”(confidential corporate documents)以及對(duì)項(xiàng)目參與工程師的采訪稱(chēng)，IBM大約在10年前開(kāi)始與“紐約下曼哈頓安全項(xiàng)目”(New York’s Lower Manhattan Security Initiative)反恐中心合作開(kāi)發(fā)數(shù)據(jù)分析平臺(tái)。此前IBM還與芝加哥進(jìn)行過(guò)聯(lián)合試驗(yàn)。當(dāng)時(shí)，IBM是微軟旗下Vexcel的分包商。

利用紐約市警察局提供的來(lái)自大約50個(gè)攝像頭的數(shù)千張照片，IBM的計(jì)算機(jī)視覺(jué)系統(tǒng)從1.6萬(wàn)個(gè)數(shù)據(jù)點(diǎn)去進(jìn)行學(xué)習(xí)，識(shí)別服裝顏色等身體特征，以及其它可能的威脅因素，例如無(wú)人看管的包裹、闖入禁區(qū)的人，以及車(chē)輛在車(chē)流中的加速行駛。

報(bào)道稱(chēng)，紐約市警察局官員早在2012年就對(duì)這款軟件進(jìn)行了測(cè)試。

不過(guò)，警察局發(fā)言人皮特·唐納德(Peter Donald)回應(yīng)稱(chēng)，其過(guò)濾工具只是用于“評(píng)估目的”，警察會(huì)被告知將某些膚色的人排除在搜索范圍之外。他同時(shí)表示，紐約市警察局已經(jīng)向“民選的領(lǐng)導(dǎo)人和利益相關(guān)方”告知了這方面的工作，但沒(méi)有公開(kāi)透露任何細(xì)節(jié)。

唐納德還證實(shí)，紐約市警察局最終決定不部署這個(gè)項(xiàng)目，并明確拒絕了一個(gè)可以根據(jù)種族進(jìn)行人員搜索的改進(jìn)版本。

IBM回應(yīng)稱(chēng)：“IBM致力于負(fù)責(zé)任地推進(jìn)和使用新技術(shù)，并在促進(jìn)多樣性和包容性方面得到認(rèn)可。這就是為什么我們向其他公司公開(kāi)提供100多萬(wàn)張圖像的注釋數(shù)據(jù)，以幫助解決面部識(shí)別中最大的問(wèn)題之一：缺乏多樣化的數(shù)據(jù)去訓(xùn)練人工智能系統(tǒng)。”