機(jī)器人正變得越來(lái)越先進(jìn) 對(duì)人類控制的依賴程度不斷降低
美媒稱,能夠在沒(méi)有人類直接參與的情況下殺人的武器,即所謂的“致命性自主武器”很快就會(huì)出現(xiàn)。
據(jù)美國(guó)12月15日?qǐng)?bào)道,2019年9月14日,少量無(wú)人機(jī)襲擊了沙特阿拉伯的胡賴斯油田和布蓋格煉油廠。除了中斷全球5%的原油生產(chǎn)外,這次襲擊還凸顯了使用這些遙控武器所帶來(lái)的一些挑戰(zhàn)。
報(bào)道稱,首先是難以問(wèn)責(zé)。在事件發(fā)生近3個(gè)月后,仍不清楚是誰(shuí)制造了這起襲擊事件。就像網(wǎng)絡(luò)戰(zhàn)中的黑客一樣,攻擊者幾乎沒(méi)有留下任何蹤跡。另一個(gè)問(wèn)題是,這種武器體積小、成本相對(duì)較低,因而可能會(huì)對(duì)小股武裝分子或恐怖分子以及一些國(guó)家具有吸引力。
報(bào)道稱,這已經(jīng)夠嚇人了。但鑒于軍火工業(yè)目前的發(fā)展方向,這些擔(dān)憂還無(wú)法與未來(lái)可能產(chǎn)生的擔(dān)憂相提并論。
正如荷蘭非政府組織“和平”反戰(zhàn)組織在幾周前發(fā)表的一份報(bào)告中指出的那樣,世界正處于一條危險(xiǎn)的路徑上,那些能夠在沒(méi)有人類直接參與的情況下殺人的武器,即所謂的“致命性自主武器”很快就會(huì)出現(xiàn)。這類武器更常見(jiàn)的名字叫“殺人機(jī)器人”。
報(bào)道稱,這個(gè)綽號(hào)在某種程度上具有誤導(dǎo)性,令人想起科幻電影中的“終結(jié)者”之類的幻想事物。事實(shí)上,這些工具類似于更傳統(tǒng)的致命裝置:無(wú)人戰(zhàn)機(jī)、坦克、潛艇;發(fā)生改變的不是武器的形態(tài),而是其自主程度。目前,完全自主的進(jìn)攻武器還沒(méi)有部署到實(shí)戰(zhàn)中,但機(jī)器正變得越來(lái)越先進(jìn),對(duì)人類控制的依賴程度不斷降低。
其中一個(gè)例子是由土耳其國(guó)有企業(yè)STM公司開(kāi)發(fā)的“卡爾古”自主攻擊型四軸無(wú)人機(jī)。報(bào)道稱,它將于2020年部署在土耳其東部與敘利亞相鄰的邊境地區(qū)。據(jù)土耳其的一篇文章說(shuō),每個(gè)“卡爾古”機(jī)群將由30架無(wú)人機(jī)組成,它們都配有人工智能和面部識(shí)別系統(tǒng)。依靠目標(biāo)的坐標(biāo)或圖像,這些“卡爾古”無(wú)人機(jī)將能夠自主完成所有任務(wù)。幸運(yùn)的是,在無(wú)人機(jī)發(fā)動(dòng)攻擊的所有階段,人類操作員仍然可以選擇“中止任務(wù)”和“返回基地”。
報(bào)道稱,俄羅斯的T-14“阿瑪塔”主戰(zhàn)坦克配備了無(wú)人炮塔和計(jì)算機(jī)化系統(tǒng),因此經(jīng)常被作為另一個(gè)很快就能實(shí)現(xiàn)完全自主的裝備案例--盡管有些人懷疑這是否真的會(huì)使其在戰(zhàn)場(chǎng)上更加有效。
也許并非偶然的是,俄羅斯、以色列和美國(guó)等國(guó)家強(qiáng)烈反對(duì)預(yù)先禁止研發(fā)“殺人機(jī)器人”。聯(lián)合國(guó)11月在日內(nèi)瓦的一場(chǎng)會(huì)議上討論了預(yù)先禁止此類武器的問(wèn)題。
正如最近的一篇特別報(bào)道中所指出的,預(yù)先禁止激光致盲武器的措施取得成功,因此從理論上講,這種禁令有可能同樣適用于“殺人機(jī)器人”。公眾的普遍意識(shí)和對(duì)禁令的強(qiáng)烈支持可能會(huì)使情況發(fā)生改變,而這正是目前所缺失的。