本文是Ken Goldberg教授為《Nature》撰寫的書評(píng)，對(duì)3本關(guān)于人與機(jī)器人之間關(guān)系的書籍做出了評(píng)論。他是加州大學(xué)伯克利分校人與機(jī)器人計(jì)劃的負(fù)責(zé)人。那么，他對(duì)奇點(diǎn)理論看法如何呢?機(jī)器人會(huì)取代人類工作嗎?

這三本書分別是：

Machines of Loving Grace: The Quest for Common Ground Between Humans and Robots JOHN MARKOFF Ecco: 2015.

Rise of the Robots: Technology and the Threat of a Jobless Future MARTIN FORD Basic: 2015.

Our Robots, Ourselves: Robotics and the Myths of Autonomy DAVID A. MINDELL Viking: 2015

19世紀(jì)末期，美國(guó)社會(huì)充斥著一個(gè)種族歧視的詞叫「黃禍」(yellow peril)。一種關(guān)于中國(guó)移民的恐慌在這個(gè)國(guó)家蔓延開來，因?yàn)樗麄儞?dān)心在美國(guó)礦山和鐵路上工作的中國(guó)移民會(huì)把工作從當(dāng)?shù)鼐用袷种袏Z走。今天，他們也有一個(gè)類似的恐懼，不過這一次是關(guān)于「奇點(diǎn)」——人工智能和機(jī)器人的能力超過人類的時(shí)刻。

例如，2014年5月物理學(xué)家Stephen Hawking、Frank Wilczek和Max Tegmark，以及計(jì)算機(jī)科學(xué)家Stuart Russell，在《獨(dú)立報(bào)》上撰文稱：「人工智能的成功將會(huì)是人類歷史上最大的事件。不幸的是，這也很可能是最后一個(gè)大事件?！?/p>

如今，人工智能領(lǐng)域獲得了很多令人驚異的進(jìn)步，例如「深度學(xué)習(xí)」——通過使用數(shù)千個(gè)數(shù)值參數(shù)來近似擬合復(fù)雜函數(shù)的方法。隨著3D感應(yīng)和繪圖技術(shù)的進(jìn)步，機(jī)器人也在發(fā)生進(jìn)化，但是這些進(jìn)步也并不如有些人宣稱的那樣穩(wěn)定。這里有三部著作從不同方面探索了這個(gè)話題，而它們都不約而同地認(rèn)為機(jī)器人的優(yōu)勢(shì)面臨著巨大的障礙：人類的心理。

一

在《Machines of Loving Grace》一書中，《紐約時(shí)報(bào)》記者John Markoff強(qiáng)調(diào)了人工智能(AI)和智能擴(kuò)增(IA)之間的區(qū)別。他講述了自1956年這兩個(gè)術(shù)語(yǔ)創(chuàng)造以來，這些領(lǐng)域發(fā)生的迷人卻又往往對(duì)立的演變。

在過去的20年間，Markoff一直與領(lǐng)先的研究人員保持聯(lián)系。據(jù)他描述，雖然早期的研究人員態(tài)度比較樂觀，但是事實(shí)證明，創(chuàng)造人工智能是一件非常困難的事情。機(jī)器人也遭遇了莫拉維克悖論：一些對(duì)于人類來說非常困難的任務(wù)，例如精密點(diǎn)焊機(jī)等，對(duì)于機(jī)器人來說卻非常簡(jiǎn)單;而很多對(duì)于人類來說非常簡(jiǎn)單的任務(wù)，例如清理餐桌等，對(duì)于機(jī)器人來說卻非常困難。這主要是由于摩擦力學(xué)、碰撞力學(xué)和接觸力學(xué)固有的復(fù)雜性決定的。和推動(dòng)桌面上的咖啡杯相比，對(duì)機(jī)器人來說計(jì)算彗星的精確軌跡相對(duì)來說更加容易。

Douglas Engelbart則更偏愛智能擴(kuò)增(IA)，他致力于通過開發(fā)計(jì)算機(jī)的潛能來擴(kuò)增人類的能力。這發(fā)展成了人機(jī)交互領(lǐng)域，為我們帶來了鼠標(biāo)和圖形界面。Markoff講述了一些開拓者的故事，例如計(jì)算機(jī)科學(xué)家Terry Winograd和增強(qiáng)現(xiàn)實(shí)專家Gary Bradski，他們都認(rèn)識(shí)到了人工智能的局限性，從而成為了智能擴(kuò)增的倡導(dǎo)者(IA)。Markoff的著作認(rèn)為人工智能(AI)的成功將會(huì)依賴智能擴(kuò)增(IA)的進(jìn)步。

二

軟件企業(yè)家Martin Ford在《Rise of the Robots》中宣稱，人工智能和機(jī)器人將會(huì)消除大多數(shù)工作，藍(lán)領(lǐng)和白領(lǐng)階層很有可能會(huì)因此而失業(yè)，而進(jìn)一步的閱讀則表明，支持這種說法的證據(jù)非常簡(jiǎn)略。Ford認(rèn)同未來學(xué)家Ray Kurzweil的言論，并反復(fù)強(qiáng)調(diào)說，我們已經(jīng)到達(dá)基于摩爾定律(計(jì)算能力隨時(shí)間呈指數(shù)增長(zhǎng))的加速發(fā)展邊緣。然而一些計(jì)算機(jī)科學(xué)家認(rèn)為這是一個(gè)指數(shù)謬論，認(rèn)為集成電路的成功經(jīng)驗(yàn)將人們對(duì)發(fā)展的預(yù)期抬得太高，遠(yuǎn)超出了科技?xì)v史學(xué)家們的預(yù)期——他們認(rèn)為增長(zhǎng)曲線不可避免會(huì)變得緩和。

歷史趨勢(shì)也并未支持勒德謬誤(Luddite fallacy)，該謬論認(rèn)為全世界的工作量是一定的，因此科技的發(fā)展會(huì)不可避免地取代一部分工作，從而造成失業(yè)。這樣的推理沒有考慮到補(bǔ)償效應(yīng)，即新的工作會(huì)產(chǎn)生，也沒有考慮到眾多的相關(guān)因素，例如全球化和勞動(dòng)力的民主化。Ford在該書中描述了軟件系統(tǒng)試圖完成律師、項(xiàng)目經(jīng)理、記者、計(jì)算機(jī)程序員、發(fā)明家和音樂家的工作。但是他給出的證據(jù)(這些證據(jù)包括軟件系統(tǒng)將很快得到完善，并迫使大量裁員)包含的大多是流行雜志的文章以及與初創(chuàng)公司市場(chǎng)主管的對(duì)話。

三

在《Our Robots, Ourselves》一書中，遠(yuǎn)程機(jī)器人專家David Mindell指出，自治系統(tǒng)(autonomous systems)其實(shí)并不是一個(gè)新概念。自從20世紀(jì)70年代開始，它們?cè)谝恍╊I(lǐng)域使用得非常頻繁，例如深海探測(cè)和太空探索，并用在幾乎所有的飛行器上。

憑借豐富的經(jīng)驗(yàn)，Mindell解釋道，雖然這樣的系統(tǒng)已經(jīng)有所改進(jìn)但是許多專家卻仍然不信任它們。例如，有的學(xué)派認(rèn)為海洋學(xué)家必須直接體驗(yàn)黑暗的海洋深處，才能理解潛藏在那里的奇觀。然而可通過光纖電纜遠(yuǎn)程操作的機(jī)器人潛艇則更靈活，能夠探索更長(zhǎng)的時(shí)間，而且每次改進(jìn)之后的驗(yàn)證過程也并不昂貴。

Mindell為我們講述了一個(gè)生動(dòng)的場(chǎng)景。1977年，馬薩諸塞州伍茲霍爾海洋研究所海洋學(xué)家Robert Ballard和微生物學(xué)家Holger Jannasch坐潛水器遇到了一個(gè)海底噴口區(qū)。當(dāng)Ballard想通過裂縫附近的玻璃窗觀察時(shí)，他意識(shí)到Jannasch卻背對(duì)著玻璃窗。當(dāng)問及到為什么時(shí)，Jannasch說，攝像頭轉(zhuǎn)播的電視圖像視野更好。那一刻，Ballard意識(shí)到，在海面上看轉(zhuǎn)播的視野會(huì)更好，在那里，你可以舒適地觀看海底拍攝的高清視頻。然而，也有許多人認(rèn)為并非如此。

Mindell研究了大量歷史、文化、政治、心理、哲學(xué)和公共關(guān)系等方面的理由，以便讓人類手握控制權(quán)。最近的一個(gè)例子是2015年6月，由大約3000位研究人員簽署的關(guān)于禁止自主武器的國(guó)際請(qǐng)?jiān)笗?/p>

讓我們考慮這樣一個(gè)例子，Google公司宣布發(fā)現(xiàn)了其無(wú)人駕駛汽車中一個(gè)最不可靠的部分：當(dāng)人類司機(jī)試圖接管汽車時(shí)，它的回應(yīng)是移除方向盤。Mindell解釋了為什么這是一個(gè)錯(cuò)誤。在他所謂的「完全自主的神話」中，他指出機(jī)器可能周期性地自主操作，但是沒有機(jī)器可以完全獨(dú)立地工作，因?yàn)檫@意味著人類的意圖、假設(shè)及參數(shù)都需要內(nèi)置于所有的機(jī)器中。Mindell的這種經(jīng)驗(yàn)使得他得出了和Markoff類似的結(jié)論：最重要(也是最困難)的挑戰(zhàn)是設(shè)計(jì)合適的接口，讓人類出現(xiàn)在整個(gè)決策回路中。

技術(shù)進(jìn)步也具有不確定性。我們已經(jīng)經(jīng)歷了幾次循環(huán)，從非理性的熱情、到失望、再到研發(fā)資金的蒸發(fā)，即人們所說的人工智能冬天。和以前類似，最新一輪的期待也被夸大了。

這些危言聳聽的言論會(huì)加速接下來的低迷狀態(tài)，從而使得人們忽略更為現(xiàn)實(shí)和重要的發(fā)展，即多樣性。多樣性刻畫的是一種新興的系統(tǒng)，在其中，不同群體的人類可以和不同類別的機(jī)器一起工作，從而解決一些非常困難的問題，這一點(diǎn)與Markoff和Mindell的觀點(diǎn)一樣。多樣性在人工智能和智能擴(kuò)增的交界處蓬勃發(fā)展，將人類的智慧和云計(jì)算的能力結(jié)合在了一起。正如設(shè)計(jì)師和計(jì)算機(jī)科學(xué)家John Maeda所說的那樣，這并不是我們和機(jī)器之間的對(duì)抗，而是我們和機(jī)器之間的合作。兩者聯(lián)合才能收獲更多。