人工智能(AI)將改變世界，但這是“惡”還是“善”，備受爭議。為此，一個(gè)專家團(tuán)隊(duì)齊聚亞利桑那州立大學(xué)(ASU)的“設(shè)想和解決不良AI的結(jié)果”研討會(huì)，討論了當(dāng)人工智能成為人類的一個(gè)重大威脅時(shí)，人類將處于什么樣的困境。

人工智能科學(xué)家Eric Horvitz指出，AI具有巨大的潛力，以多種方式影響到社會(huì)的各個(gè)方面。同時(shí)，就像任何技術(shù)一樣，人工智能有利也有弊。

作為AI樂觀支持者的一員，Horvitz表示非常看好人工智能的未來。與此同時(shí)，他也認(rèn)為AI要想贏得公眾的信任，那么在技術(shù)方面仍要不斷努力。為了實(shí)現(xiàn)這一點(diǎn)，所有圍繞著技術(shù)的問題都要被討論。

專家希望這次對話能夠解決有關(guān)AI的問題。由科學(xué)家、網(wǎng)絡(luò)安全專家和政策制定者組成的40個(gè)人，被分成兩隊(duì)，討論AI會(huì)以哪些方式給世界造成麻煩。

紅隊(duì)的任務(wù)是將AI可能導(dǎo)致的災(zāi)難性情況都列出來，藍(lán)隊(duì)則被要求設(shè)計(jì)相應(yīng)的解決方案。假設(shè)的情況也要基于當(dāng)前的技術(shù)，而不是胡亂假設(shè)一通。

若人工智能“失控”

紅隊(duì)假設(shè)AI可能存在的風(fēng)險(xiǎn)有以下幾種：自動(dòng)網(wǎng)絡(luò)攻擊(這是一種足夠智能的網(wǎng)絡(luò)武器，在攻擊后能隱藏自己，并能防止被毀滅)，股票市場將被操縱，無人駕駛技術(shù)無法對關(guān)鍵路標(biāo)進(jìn)行識別，AI被用來操縱選舉或影響選舉結(jié)果。

并不是每一個(gè)問題都給予了足夠的解決方案，表明了人類目前面對AI可能帶來的糟糕情況毫無準(zhǔn)備。

例如，在智能自動(dòng)化網(wǎng)絡(luò)攻擊的情況下，攻擊者很容易使用不知情的互聯(lián)網(wǎng)游戲玩家來掩蓋自己的蹤跡，使用類似于在線游戲來掩蓋攻擊本身。

將其作為娛樂的人可能認(rèn)為這些是無稽的末日景象，但實(shí)際上這些假設(shè)是向認(rèn)識AI可能構(gòu)成的威脅邁出了深思熟慮的第一步。

美國國防部高級研究計(jì)劃署的John Launchbury希望這場討論能給網(wǎng)絡(luò)戰(zhàn)爭、自動(dòng)化武器和機(jī)器人部隊(duì)制定具體的協(xié)議。

研討會(huì)的目的不是為了煽動(dòng)恐懼情緒，而是合理、現(xiàn)實(shí)地預(yù)測技術(shù)如何被濫用的各種可能性，并希望能在AI防御方面取得突破。