人工智能存在性別歧視?
谷歌人工智能工具用于標(biāo)記圖像中的內(nèi)容,將不再給人們貼性別標(biāo)簽。
周四,《商業(yè)內(nèi)幕》報道稱,谷歌的云視覺應(yīng)用編程接口服務(wù)(Cloud Vision API service)將不再給照片中的人貼上與性別相關(guān)的標(biāo)簽。云視覺應(yīng)用編程接口是一種人工智能工具,開發(fā)人員用它來識別圖像中的人臉、物體或地標(biāo)等組件。
昨天,谷歌向其云視覺應(yīng)用程序接口用戶發(fā)送了一封電子郵件,稱該工具可以識別和標(biāo)記圖像中的各種組件,如品牌標(biāo)志、面孔和地標(biāo),不再給圖像中的人貼上性別標(biāo)簽,如“男人”或“女人”。
據(jù)《商業(yè)內(nèi)幕》報道,谷歌在郵件中稱,這種做法將被終止,因為“你不能僅憑外表推斷出一個人的性別”,這樣做會強制推行人工智能的不道德使用。相反,個人只會被標(biāo)記為“人”。
在接受《商業(yè)內(nèi)幕》采訪時,人工智能偏見專家弗雷德里克·卡爾特烏納將這一變化描述為“非常積極”,他說,“將人分為男性或女性是假設(shè)性別是二元的。任何不符合標(biāo)準(zhǔn)的人都會自動被錯誤分類和性別化。所以這不僅僅是偏見——一個人的性別不能通過外表來推斷。任何試圖這樣做的人工智能系統(tǒng)將不可避免地誤導(dǎo)人們?!?/p>
谷歌在郵件中指出,他們打算繼續(xù)改進人工智能,以確保人們不會因性別而受到歧視,也不會因種族、民族、收入或宗教信仰等因素而受到歧視。