機(jī)器人可以用來(lái)干家務(wù)，也可以用于暴力目的。如何劃定機(jī)器人的用途界限?針對(duì)這個(gè)問(wèn)題，人工智能(AI)領(lǐng)域產(chǎn)生了很大分歧。

韓國(guó)科學(xué)技術(shù)院(KAIST)是一所知名學(xué)府，擁有首屈一指的科學(xué)實(shí)驗(yàn)室。從液態(tài)電池到疾病傳感器，他們開(kāi)發(fā)了各式各樣的東西。如今，KAIST和韓華集團(tuán)簽署協(xié)議，為后者研發(fā)人工智能武器。韓華集團(tuán)曾無(wú)視聯(lián)合國(guó)禁令，開(kāi)發(fā)“集束彈藥”這種毀滅性武器。如果加上人工智能，武器恐怕會(huì)更加致命。

目前，聯(lián)合國(guó)正在商討如何控制自主武器對(duì)國(guó)際安全造成的威脅，而KAIST卻在加速這類武器的軍備競(jìng)賽，這非常令人失望。因此，50多位全球頂尖AI專家決定抵制此舉——他們宣布將拒絕和KAIST任何部門(mén)進(jìn)行合作，直到KAIST保證絕不開(kāi)發(fā)缺乏人類控制的自主武器。

對(duì)此，KAIST表示否認(rèn)。院長(zhǎng)Sung-Chul Shin發(fā)表聲明：

作為學(xué)術(shù)機(jī)構(gòu)，我們高度重視人權(quán)和道德標(biāo)準(zhǔn)。KAIST將不會(huì)開(kāi)展任何違背人類尊嚴(yán)的科研活動(dòng)，包括缺乏人類控制的自主武器。

如今，硬件和軟件都發(fā)展得很快。許多專家擔(dān)心，人類遲早會(huì)開(kāi)發(fā)出自己無(wú)法控制的東西。因此，埃隆·馬斯克、史蒂夫·沃茲尼亞克、斯蒂芬·霍金等名人呼吁政府和聯(lián)合國(guó)限制依靠人工智能系統(tǒng)運(yùn)行的武器。如果導(dǎo)彈、火箭、炸彈能夠脫離人類控制而自行操作，那么后果會(huì)很恐怖——特別是落入壞人手里時(shí)。

如果開(kāi)發(fā)出自主武器，那么它將成為戰(zhàn)爭(zhēng)史上的第三場(chǎng)革命。自主武器將使戰(zhàn)爭(zhēng)速度和戰(zhàn)爭(zhēng)規(guī)模達(dá)有史以來(lái)的最高水平。此外，它也可能成為恐怖分子的武器，擺脫道德約束，傷害無(wú)辜人民。潘多拉的魔盒一旦打開(kāi)，便難以關(guān)閉。

聯(lián)合國(guó)曾多次召開(kāi)會(huì)議，商討針對(duì)致命自主武器的禁令，然而收效甚微。原因在于：出于軍事目的，個(gè)別國(guó)家熱衷于開(kāi)發(fā)這類技術(shù);此外，私營(yíng)企業(yè)也不想在人工智能方面被規(guī)章條例所束縛。盡管我們都知道，殺手機(jī)器人是件邪惡的東西;然而，誰(shuí)也不知道該怎樣限制這類玩意的開(kāi)發(fā)。人類陷入了一場(chǎng)所有人都不希望發(fā)生的軍備競(jìng)賽。

目前，許多科學(xué)家希望出臺(tái)有關(guān)AI開(kāi)發(fā)和應(yīng)用的指導(dǎo)方針。不過(guò)，即便制定出相關(guān)方針，也很難保證所有人都遵守規(guī)則。