AI如何上演一出“無(wú)間道”
我們常說(shuō)「無(wú)圖無(wú)真相」,但是圖對(duì)于技術(shù)人員來(lái)說(shuō)并不是什么困難的事,很多新聞的圖片可能是假圖。不過(guò),既然技術(shù)可以成為造假者的幫兇,反過(guò)來(lái)也能在識(shí)別照片真假時(shí)發(fā)揮作用。
Google旗下的技術(shù)公司(原 GoogleIdeas)是是Google的內(nèi)部部門,他們負(fù)責(zé)預(yù)測(cè)和應(yīng)對(duì)新出現(xiàn)的威脅,并創(chuàng)建定義未來(lái)的研究和技術(shù),以確保我們的世界更安全。Jigsaw發(fā)布了一款免費(fèi)工具,聲稱可以幫助媒體從業(yè)人員識(shí)別被動(dòng)過(guò)手腳的圖片,連人工智能制造的圖片也難逃其法眼。
這款照片打假神器名為 Assembler,具有5+2 個(gè)檢測(cè)器,其中有5個(gè)用于識(shí)別造假的圖片,之所以有這么多個(gè)探測(cè)器,是因?yàn)楦鱾€(gè)檢測(cè)器通常無(wú)法準(zhǔn)確檢測(cè)不同類型的圖像處理。例如,能識(shí)別通過(guò)復(fù)制和粘貼操作的圖像的檢測(cè)器通常無(wú)法檢測(cè)通過(guò)操作圖像亮度來(lái)修改的圖片,反之亦然。為了解決這個(gè)問(wèn)題,就建立了一個(gè)實(shí)驗(yàn)性探測(cè)器,即“整體模型”,該探測(cè)器使用來(lái)自多個(gè)探測(cè)器的信號(hào)進(jìn)行訓(xùn)練。因?yàn)榧赡P涂梢宰R(shí)別多種圖像處理類型,所以平均而言,結(jié)果比任何單個(gè)檢測(cè)器都更準(zhǔn)確。
經(jīng)過(guò)處理的圖片例如合成、擦除等,這些操作是會(huì)留下蛛絲馬跡,學(xué)習(xí)過(guò)大量案例的計(jì)算機(jī)程序可以在分析圖像后標(biāo)記出它認(rèn)為的更改痕跡,如顏色模式異常、圖像光影異常,縱深比例不正確,已經(jīng)復(fù)制和粘貼多次的區(qū)域以及是否圖像使用了多個(gè)攝像頭模型來(lái)合成等。
另外兩個(gè)檢測(cè)器主要識(shí)別「deepfake」的造假,也就是這兩年引起熱議的「AI 換臉」,該檢測(cè)器使用機(jī)器學(xué)習(xí)區(qū)分真人圖像和StyleGAN 技術(shù)生成的deepfake。
據(jù) Jigsaw 產(chǎn)品經(jīng)理圣蒂亞戈·安德里戈介紹,Assembler能處理大量丑聞?wù)掌?,這對(duì)面臨核實(shí)壓力的新聞機(jī)構(gòu)很有幫助,還可用于驗(yàn)證已經(jīng)在網(wǎng)絡(luò)上大規(guī)模傳播的圖像的真實(shí)性。
這場(chǎng)人工智能的戰(zhàn)爭(zhēng)悄然開(kāi)始,Assembler負(fù)責(zé)找到其他AI圖像處理的的破綻,對(duì)于這些AI圖像處理軟件來(lái)說(shuō),AI圖像處理軟件:“原來(lái)這里還有不足,知道下面要怎么修改了?!?/p>