某些情景下的人工智能的確會(huì)給人們帶來威脅
不少人對(duì)人工智能非常忌憚。可以這么說,科幻電影里刻畫的那些“錯(cuò)誤進(jìn)化”的冷酷機(jī)器影響了公眾對(duì)人工智能的看法。
但該領(lǐng)域里的三位專家表示,人們感到不安也是有合理的原因。盡管電影《終結(jié)者》還沒變成現(xiàn)實(shí),但卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)學(xué)院的主任Andrew Moore表示,某些情景下的人工智能的確會(huì)給人們帶來威脅。Moore很快將成為Google Cloud AI的主管。
去年11月,Moore播放了名為《人工智能和全球安全倡議》的幻燈片,他表示:“如果發(fā)生了人工智能引發(fā)的災(zāi)難,例如無人駕駛汽車因?yàn)橄到y(tǒng)漏洞撞死了人,坦白說我認(rèn)為這已經(jīng)發(fā)生了,那么某些人工智能系統(tǒng)將被封鎖,至少在美國(guó)地區(qū)是這樣?!?/p>
“有太多讓人害怕的場(chǎng)景,我就不一一敘述了,我們真的很擔(dān)心這些事情的發(fā)生,它們有可能引發(fā)機(jī)器人研究的全面封鎖?!盡oore說道。
而Moore發(fā)表聲明的同時(shí),大量的風(fēng)險(xiǎn)資金涌入了人工智能領(lǐng)域。
谷歌、微軟、IBM、亞馬遜、Facebook等公司競(jìng)相研究這種技術(shù)。谷歌首席執(zhí)行官桑德爾·皮查伊曾表示,對(duì)人類發(fā)展而言,人工智能的重要性將超過電和火。
盡管如此,也有研究人員表達(dá)了這種技術(shù)的擔(dān)憂,警告稱人工智能一旦被用于歧途,將帶來嚴(yán)重的后果。
上周,谷歌中國(guó)的前總裁李開復(fù)預(yù)測(cè)人工智能將為許多行業(yè)帶來變革,并創(chuàng)造出大量的財(cái)富,但這些財(cái)富最終會(huì)集中到少部分人手里。他聲稱,有了人工智能的幫助,企業(yè)擁有者能省掉大量勞動(dòng)力,讓他們?cè)?jīng)的工作實(shí)現(xiàn)自動(dòng)化。
“因此人工智能會(huì)創(chuàng)造出新的富翁和平困人群?!崩铋_復(fù)在2018年的舊金山人工智能大會(huì)上說道。
在這個(gè)大會(huì)上,紐約大學(xué)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker描述了埃隆·馬斯克和馬克·扎克伯格等技術(shù)人員正在尋找人類通過思想控制機(jī)器的方法。她預(yù)測(cè)在不遠(yuǎn)的將來,這種技術(shù)就會(huì)出現(xiàn),它能理解和存儲(chǔ)我們的想法。
Whittaker又丟出了第二個(gè)問題:那么如果一家公司能搜集它客戶的想法并進(jìn)行記錄,將發(fā)生什么事情?她認(rèn)為這種可能“很恐怖”。
同樣“恐怖”的是,人工智能系統(tǒng)對(duì)人類情感的理解能力逐漸加強(qiáng)。
“直到三四年前,計(jì)算機(jī)視覺和語音處理的進(jìn)步,使得機(jī)器可以識(shí)別人、物體,并將口頭語言轉(zhuǎn)換成書面的語句?,F(xiàn)在我們已經(jīng)可以再進(jìn)一步,手機(jī)上攝像頭的分辨率已經(jīng)能看到臉上的瑕疵,并利用它們的運(yùn)動(dòng)來追蹤整個(gè)面部皮膚?!盡oore說道。
“通過面部追蹤,你可以識(shí)別出臉下的哪塊肌肉在運(yùn)動(dòng)。利用已有的心理學(xué)知識(shí),加上肌肉的運(yùn)動(dòng),你可以檢測(cè)出面部動(dòng)作和細(xì)微的情緒,甚至有時(shí)候人類自己都沒意識(shí)到?!盡oore補(bǔ)充道?!斑@意味著我們能夠識(shí)別出對(duì)象在講話過程中的激動(dòng)、喜悅、恐懼和輕蔑。”
不少人對(duì)人工智能非常忌憚。可以這么說,科幻電影里刻畫的那些“錯(cuò)誤進(jìn)化”的冷酷機(jī)器影響了公眾對(duì)人工智能的看法。
但該領(lǐng)域里的三位專家表示,人們感到不安也是有合理的原因。盡管電影《終結(jié)者》還沒變成現(xiàn)實(shí),但卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)學(xué)院的主任Andrew Moore表示,某些情景下的人工智能的確會(huì)給人們帶來威脅。Moore很快將成為Google Cloud AI的主管。
去年11月,Moore播放了名為《人工智能和全球安全倡議》的幻燈片,他表示:“如果發(fā)生了人工智能引發(fā)的災(zāi)難,例如無人駕駛汽車因?yàn)橄到y(tǒng)漏洞撞死了人,坦白說我認(rèn)為這已經(jīng)發(fā)生了,那么某些人工智能系統(tǒng)將被封鎖,至少在美國(guó)地區(qū)是這樣?!?/p>
“有太多讓人害怕的場(chǎng)景,我就不一一敘述了,我們真的很擔(dān)心這些事情的發(fā)生,它們有可能引發(fā)機(jī)器人研究的全面封鎖?!盡oore說道。
而Moore發(fā)表聲明的同時(shí),大量的風(fēng)險(xiǎn)資金涌入了人工智能領(lǐng)域。
谷歌、微軟、IBM、亞馬遜、Facebook等公司競(jìng)相研究這種技術(shù)。谷歌首席執(zhí)行官桑德爾·皮查伊曾表示,對(duì)人類發(fā)展而言,人工智能的重要性將超過電和火。
盡管如此,也有研究人員表達(dá)了這種技術(shù)的擔(dān)憂,警告稱人工智能一旦被用于歧途,將帶來嚴(yán)重的后果。
上周,谷歌中國(guó)的前總裁李開復(fù)預(yù)測(cè)人工智能將為許多行業(yè)帶來變革,并創(chuàng)造出大量的財(cái)富,但這些財(cái)富最終會(huì)集中到少部分人手里。他聲稱,有了人工智能的幫助,企業(yè)擁有者能省掉大量勞動(dòng)力,讓他們?cè)?jīng)的工作實(shí)現(xiàn)自動(dòng)化。
“因此人工智能會(huì)創(chuàng)造出新的富翁和平困人群?!崩铋_復(fù)在2018年的舊金山人工智能大會(huì)上說道。
在這個(gè)大會(huì)上,紐約大學(xué)AI Now的聯(lián)合創(chuàng)始人Meredith Whittaker描述了埃隆·馬斯克和馬克·扎克伯格等技術(shù)人員正在尋找人類通過思想控制機(jī)器的方法。她預(yù)測(cè)在不遠(yuǎn)的將來,這種技術(shù)就會(huì)出現(xiàn),它能理解和存儲(chǔ)我們的想法。
Whittaker又丟出了第二個(gè)問題:那么如果一家公司能搜集它客戶的想法并進(jìn)行記錄,將發(fā)生什么事情?她認(rèn)為這種可能“很恐怖”。
同樣“恐怖”的是,人工智能系統(tǒng)對(duì)人類情感的理解能力逐漸加強(qiáng)。
“直到三四年前,計(jì)算機(jī)視覺和語音處理的進(jìn)步,使得機(jī)器可以識(shí)別人、物體,并將口頭語言轉(zhuǎn)換成書面的語句。現(xiàn)在我們已經(jīng)可以再進(jìn)一步,手機(jī)上攝像頭的分辨率已經(jīng)能看到臉上的瑕疵,并利用它們的運(yùn)動(dòng)來追蹤整個(gè)面部皮膚?!盡oore說道。
“通過面部追蹤,你可以識(shí)別出臉下的哪塊肌肉在運(yùn)動(dòng)。利用已有的心理學(xué)知識(shí),加上肌肉的運(yùn)動(dòng),你可以檢測(cè)出面部動(dòng)作和細(xì)微的情緒,甚至有時(shí)候人類自己都沒意識(shí)到?!盡oore補(bǔ)充道?!斑@意味著我們能夠識(shí)別出對(duì)象在講話過程中的激動(dòng)、喜悅、恐懼和輕蔑?!?/p>