機器人成戰(zhàn)場的“大殺器”,人工智能、無人機等多種技術(shù)在其中
古往今來,人類聰明才智的結(jié)晶,總是被優(yōu)先用于軍事領(lǐng)域,以提高殺人效率。
上世紀(jì)70年代以來,幾乎所有高新技術(shù),譬如計算機、微電子、精確制導(dǎo)、電子對抗、推進技術(shù),以及生物材料、納米技術(shù)等等,無不優(yōu)先用于軍事,今天深度侵入我們?nèi)粘I畹幕ヂ?lián)網(wǎng),一開始就是美國軍方的通訊技術(shù)。
但是像美國這樣的軍事強國,除了軍事科技全球首屈一指,每場戰(zhàn)爭勝算極大之外,卻還面臨這樣的問題,即“將別人的子女送上戰(zhàn)場的總統(tǒng),必須公開證明其正當(dāng)性,負責(zé)撥款和宣戰(zhàn)的國會也一樣?!?/p>
也就是說,縱然總統(tǒng)和國會拍著胸脯保證每戰(zhàn)必勝,但是在其國內(nèi),還必須辦完一道手續(xù):你要把別人的孩子送上戰(zhàn)場,讓他們?nèi)ニ退?,你必須給出一個正當(dāng)理由。如果民意反對聲音太大,這個仗說不定就打不成了。
▲新一代美國軍用戰(zhàn)斗機械狗BigDog
在既不能變更美國制度,卻又處在一個高科技爆發(fā)時代,突破民意障礙的辦法,就是研發(fā)機器人士兵,讓他們?nèi)ネ瓿纱蛘痰娜蝿?wù),這樣,反戰(zhàn)的民意大概也就無話可說了吧。
在既有民意壓力又有科技出路之下,美國軍方在軍事機器人方面的研發(fā)投入和應(yīng)用,可謂不遺余力。上海人民出版社的《誰為機器人的行為負責(zé)?》([意大利]烏戈·帕加羅著)一書提供的數(shù)據(jù)顯示:
就研發(fā)而論,軍事機器人科技是目前最具活力,也是資金最充足的機器人研究領(lǐng)域之一,美國機器人學(xué)一半以上的人工智能研究和發(fā)展,由軍方資助。
▲美國波士頓動力公司新研發(fā)的機器人已經(jīng)可以后空翻了
就使用而論,以軍事無人機為例,在2003年年,美軍進入伊拉克時,地面部隊還沒有無人機系統(tǒng);到2004年,美軍已經(jīng)有150套無人機系統(tǒng),2005年猛增到2400套;2009年,庫存量達到12000套。軍事裝備的智能化、自動化程度大幅度提升。
有數(shù)據(jù)顯示,從2011-2020年,美國在無人機研發(fā)方面投入的資金占全球56%,中國12%,以色列9%,俄羅斯8%,泛歐3%,英法意各2%。
這一長串?dāng)?shù)據(jù),可以變換為具體場景——網(wǎng)上流傳的視頻顯示,美軍無人機在高空通過紅外線把地面的恐怖分子看得一清二楚,操縱無人機的軍人坐在有空調(diào)的辦公室里,按動一下按鈕,那些恐怖分子就被一個一個清除了,同時,還可以看到恐怖分子驚慌失措,躲躲閃閃,但最終還是被一個個殲滅。
▲人工智能無人機殺人機器
相信絕大多數(shù)人都很贊同以這種方式進行反恐戰(zhàn)爭,并對機器人士兵出現(xiàn)在未來戰(zhàn)爭中抱有很高的期待。
但是有沒有想過,如果國與國之間發(fā)生戰(zhàn)爭而不是針對人神共憤的恐怖分子,那么大規(guī)模的機器人士兵進入戰(zhàn)場,會不會影響(并且已經(jīng)影響到)到許多關(guān)鍵領(lǐng)域——戰(zhàn)爭法、國際刑事和人道主義法以及憲法。也就是說,戰(zhàn)爭的規(guī)則是不是顯得更為重要?
02
說到戰(zhàn)爭要講規(guī)則,對今天的中國人來說是很陌生的,因為戰(zhàn)爭講規(guī)則而被嘲笑的宋襄公,至今還是一個小丑式的歷史人物。
公元前638年,宋襄公討伐鄭國,楚國人準(zhǔn)備通過進攻宋國,救援鄭國。這年初冬,宋襄公與楚軍在泓水交戰(zhàn)。宋軍已經(jīng)擺好戰(zhàn)陣,而楚軍卻還沒有全部渡過河,隨軍的司馬建議說,他們?nèi)硕辔覀內(nèi)松伲麄冋诙珊?,您下令馬上進攻吧。宋襄公說,那不行。
等到楚軍渡完河還來不及擺好陣勢,司馬又建議進攻,宋襄公還是回答,那不行。等到楚軍擺好陣勢,宋襄公才下令進攻,結(jié)果大敗,宋襄公的大腿還被射了一箭。
▲宋襄公充滿仁義的做法最終被楚國打敗
宋國人都埋怨宋襄公,宋襄公卻說:“仁德的君子打仗,不攻擊受傷的人,不攻打頭發(fā)花白的人,古代那些帶兵打仗的,都不依靠關(guān)山險隘取勝,宋國即便滅亡,也不會去進攻沒有擺好陣勢的敵人。”
打仗講什么規(guī)則?勝利就是唯一的規(guī)則,為了勝利,可以放棄一切,包括規(guī)則本身。這就是宋襄公被今天的人視為迂腐的代表,被譴責(zé)嘲笑的所有原因。
但其實,宋襄公并不迂腐。結(jié)合宋襄公的其他政治行為來看,他能夠靈活處理很多復(fù)雜棘手的政治關(guān)系,譬如為了籠絡(luò)東夷人而不惜用人祭;曹國不服,就動用武力攻打。
宋襄公在泓水之戰(zhàn)中表現(xiàn)得文縐縐,乃因楚國地處南方被視為蠻夷之邦,文化落后,不屬于“諸夏”,而宋國乃殷人之后,文化先進,當(dāng)堅守禮儀,此外,當(dāng)時各國正在形成一種新的普世觀念,即對禮儀的尊崇,而宋襄公在敵強我弱,勝算極小的情況下,正打算通過禮儀-規(guī)則的堅守,樹立一種文化上的優(yōu)勢地位,從而成為諸侯國“禮儀英雄”。
但正如有學(xué)者所認為的那樣,軍事上的小國試圖憑借文化大國的優(yōu)勢取得偉大奇跡。宋襄公的失敗,是過高估計了文化力量在實際政治事務(wù)中所能發(fā)揮的作用。
后世對宋襄公的批評,多集中于其德行多寡和個人品行。近代以來,隨著社會動蕩加劇,戰(zhàn)亂不斷,世人才逐漸將宋襄公的禮儀行為與戰(zhàn)敗后果勾連起來,直斥其蠢貨、迂腐。
03
撇開近代的觀念因素,可以說,宋襄公試圖通過“禮儀”這種外在的規(guī)則形式,向世人闡發(fā)一種價值觀,并且意圖用價值觀來取得戰(zhàn)爭所不能取得的優(yōu)勢地位,使楚國的戰(zhàn)爭不僅失去理由,而且所得甚少。
發(fā)動戰(zhàn)爭一定需要理由嗎?對某些國家來說,恐怕不需要,或者甚至不必告訴他的人民,但是如果戰(zhàn)爭的發(fā)動不是政客的密室陰謀,而是由法學(xué)家來決定,那么正如《誰為機器人的行為負責(zé)?》所說,過去20年,法學(xué)家們事實上已經(jīng)討論了能夠使一場戰(zhàn)爭正當(dāng)化的若干條件,它包括:是否有一個正當(dāng)?shù)闹鲝?、暴力是否作為最后手段、是否有成功的可能性,以及武力的合比例性使用。這其實就是討論為何要發(fā)動戰(zhàn)爭,以及如何進行戰(zhàn)爭的規(guī)則問題。
譬如,發(fā)動戰(zhàn)爭不需要正當(dāng)理由嗎?現(xiàn)代戰(zhàn)爭不是為一家一姓而戰(zhàn),而是牽涉全體國民的福祉,它必須經(jīng)過民意這一關(guān),民意的討論和同意,是正當(dāng)性的前提和基礎(chǔ)。而如果機器人士兵進入戰(zhàn)場,與之相關(guān)聯(lián)的問題是,機器人士兵導(dǎo)致的非正常死亡,由誰來承擔(dān)責(zé)任?是制造者的責(zé)任,還是使用者和指揮者的責(zé)任?
又譬如,現(xiàn)代戰(zhàn)爭的正義性還體現(xiàn)在在一般都很注重區(qū)分戰(zhàn)斗人員和平民,盡量不傷及無辜平民的生命財產(chǎn)安全,而美軍在中東等地的軍事行動經(jīng)常傷及平民,成為國際輿論詬病的焦點之一,當(dāng)然,恐怖分子更是經(jīng)常以平民為襲擊目標(biāo),更是激起全球憤怒。而進一步思考就會發(fā)現(xiàn),如果讓機器人士兵加入戰(zhàn)斗,它如何區(qū)分戰(zhàn)斗人員和平民?會不會一體消滅?
還譬如,武力使用的力度。機器人士兵如何判定一個敵方人員是否有投降的意圖?對一個已經(jīng)喪失部分反抗能力的敵方人員,如何判定應(yīng)該擊斃還是擊傷?這就是戰(zhàn)場上武力的合比例性使用問題。進而言之,正義的戰(zhàn)爭,要求“發(fā)動戰(zhàn)爭達成的善,必須與發(fā)動戰(zhàn)爭的惡之間合比例”。
為此,《誰為機器人的行為負責(zé)?》一書的作者烏戈·帕加羅認為,在機器人士兵投入戰(zhàn)斗之前,必須遵守的規(guī)則,通俗地講,包括:
人類必須為致命性的機器人士兵的行為負責(zé);
攻擊目標(biāo)必須是有軍事意義的;
能夠區(qū)分出合法的戰(zhàn)斗人員;
以及不能過分使用武力。
等等。
04
現(xiàn)代戰(zhàn)爭對具有武器絕對優(yōu)勢的一方來說,簡直就像玩電腦游戲一樣,具有絕對優(yōu)勢的一方,因此大大降低了發(fā)動戰(zhàn)爭的門檻,戰(zhàn)爭的潛在隨意性大大增強。尤其是諸如機器人士兵的加入,更加使武器具有絕對優(yōu)勢的一方,傷亡人數(shù)大幅下降。
有統(tǒng)計稱,從2006年到2018年為止,美軍總共有15851名現(xiàn)役和預(yù)備役軍人非正常死亡,損失不可謂不高。但是,美軍72%的死亡,共有11341人,是在“和戰(zhàn)爭無關(guān)情況下”發(fā)生的,它包括訓(xùn)練事故、航空事故或車禍等等,以及有大約14%的意外死亡和藥物濫用直接相關(guān),還有4%即634人是自殺身亡。
▲《誰為機器人的行為負責(zé)?》,[意大利]烏戈·帕加羅著
與之相對的是,對手的戰(zhàn)死率通常都是上述數(shù)字的10倍以上。如果放任機器人士兵進入戰(zhàn)場而毫無規(guī)則可言,則武力使用會更加隨意,正義必受侵蝕。人類經(jīng)過數(shù)千年相互殘殺才出現(xiàn)的一點人道主義微光,必將很快熄滅。
那么,有沒有可能為未來機器人進入戰(zhàn)場訂立規(guī)則呢?完全是有可能的。實際上,過去十多年間,國際協(xié)定已經(jīng)控制了化學(xué)、生物和核武器、地雷等領(lǐng)域的科技進步,同樣,作者認為,亟需一項類似的聯(lián)合國發(fā)起的協(xié)定,來明確規(guī)定正當(dāng)使用機器人士兵的條件。
今天的各種科技,正在最大化地放飛人類的智謀。這種智謀精進的另一面是,同類相殘從來沒有像今天這么容易,而且可以想見的是,未來會更加容易。如果沒有一種宋襄公精神的指引,毫無疑問,人類必將墮入深淵。
誰為機器人的行為負責(zé)?答案顯然是人類。但是面對機器人,各色人等的各種責(zé)任,除了本文重點討論的機器人士兵之外,《誰為機器人的行為負責(zé)?》一書還例舉了包括合同法中的外科手術(shù)機器人,以及侵權(quán)法中的人工智能雇員等等27種假設(shè)情況,它們都沒有明確答案,但它們在未來必定深度進入和影響我們的生活。