本文是Ken Goldberg教授為《Nature》撰寫的書評，對3本關(guān)于人與機器人之間關(guān)系的書籍做出了評論。他是加州大學伯克利分校人與機器人計劃的負責人。那么，他對奇點理論看法如何呢?機器人會取代人類工作嗎?

這三本書分別是：

Machines of Loving Grace: The Quest for Common Ground Between Humans and Robots JOHN MARKOFF Ecco: 2015.

Rise of the Robots: Technology and the Threat of a Jobless Future MARTIN FORD Basic: 2015.

Our Robots, Ourselves: Robotics and the Myths of Autonomy DAVID A. MINDELL Viking: 2015

19世紀末期，美國社會充斥著一個種族歧視的詞叫「黃禍」(yellow peril)。一種關(guān)于中國移民的恐慌在這個國家蔓延開來，因為他們擔心在美國礦山和鐵路上工作的中國移民會把工作從當?shù)鼐用袷种袏Z走。今天，他們也有一個類似的恐懼，不過這一次是關(guān)于「奇點」——人工智能和機器人的能力超過人類的時刻。

例如，2014年5月物理學家Stephen Hawking、Frank Wilczek和Max Tegmark，以及計算機科學家Stuart Russell，在《獨立報》上撰文稱：「人工智能的成功將會是人類歷史上最大的事件。不幸的是，這也很可能是最后一個大事件。」

如今，人工智能領(lǐng)域獲得了很多令人驚異的進步，例如「深度學習」——通過使用數(shù)千個數(shù)值參數(shù)來近似擬合復雜函數(shù)的方法。隨著3D感應(yīng)和繪圖技術(shù)的進步，機器人也在發(fā)生進化，但是這些進步也并不如有些人宣稱的那樣穩(wěn)定。這里有三部著作從不同方面探索了這個話題，而它們都不約而同地認為機器人的優(yōu)勢面臨著巨大的障礙：人類的心理。

一

在《Machines of Loving Grace》一書中，《紐約時報》記者John Markoff強調(diào)了人工智能(AI)和智能擴增(IA)之間的區(qū)別。他講述了自1956年這兩個術(shù)語創(chuàng)造以來，這些領(lǐng)域發(fā)生的迷人卻又往往對立的演變。

在過去的20年間，Markoff一直與領(lǐng)先的研究人員保持聯(lián)系。據(jù)他描述，雖然早期的研究人員態(tài)度比較樂觀，但是事實證明，創(chuàng)造人工智能是一件非常困難的事情。機器人也遭遇了莫拉維克悖論：一些對于人類來說非常困難的任務(wù)，例如精密點焊機等，對于機器人來說卻非常簡單;而很多對于人類來說非常簡單的任務(wù)，例如清理餐桌等，對于機器人來說卻非常困難。這主要是由于摩擦力學、碰撞力學和接觸力學固有的復雜性決定的。和推動桌面上的咖啡杯相比，對機器人來說計算彗星的精確軌跡相對來說更加容易。

Douglas Engelbart則更偏愛智能擴增(IA)，他致力于通過開發(fā)計算機的潛能來擴增人類的能力。這發(fā)展成了人機交互領(lǐng)域，為我們帶來了鼠標和圖形界面。Markoff講述了一些開拓者的故事，例如計算機科學家Terry Winograd和增強現(xiàn)實專家Gary Bradski，他們都認識到了人工智能的局限性，從而成為了智能擴增的倡導者(IA)。Markoff的著作認為人工智能(AI)的成功將會依賴智能擴增(IA)的進步。

二

軟件企業(yè)家Martin Ford在《Rise of the Robots》中宣稱，人工智能和機器人將會消除大多數(shù)工作，藍領(lǐng)和白領(lǐng)階層很有可能會因此而失業(yè)，而進一步的閱讀則表明，支持這種說法的證據(jù)非常簡略。Ford認同未來學家Ray Kurzweil的言論，并反復強調(diào)說，我們已經(jīng)到達基于摩爾定律(計算能力隨時間呈指數(shù)增長)的加速發(fā)展邊緣。然而一些計算機科學家認為這是一個指數(shù)謬論，認為集成電路的成功經(jīng)驗將人們對發(fā)展的預期抬得太高，遠超出了科技歷史學家們的預期——他們認為增長曲線不可避免會變得緩和。

歷史趨勢也并未支持勒德謬誤(Luddite fallacy)，該謬論認為全世界的工作量是一定的，因此科技的發(fā)展會不可避免地取代一部分工作，從而造成失業(yè)。這樣的推理沒有考慮到補償效應(yīng)，即新的工作會產(chǎn)生，也沒有考慮到眾多的相關(guān)因素，例如全球化和勞動力的民主化。Ford在該書中描述了軟件系統(tǒng)試圖完成律師、項目經(jīng)理、記者、計算機程序員、發(fā)明家和音樂家的工作。但是他給出的證據(jù)(這些證據(jù)包括軟件系統(tǒng)將很快得到完善，并迫使大量裁員)包含的大多是流行雜志的文章以及與初創(chuàng)公司市場主管的對話。

三

在《Our Robots, Ourselves》一書中，遠程機器人專家David Mindell指出，自治系統(tǒng)(autonomous systems)其實并不是一個新概念。自從20世紀70年代開始，它們在一些領(lǐng)域使用得非常頻繁，例如深海探測和太空探索，并用在幾乎所有的飛行器上。

憑借豐富的經(jīng)驗，Mindell解釋道，雖然這樣的系統(tǒng)已經(jīng)有所改進但是許多專家卻仍然不信任它們。例如，有的學派認為海洋學家必須直接體驗黑暗的海洋深處，才能理解潛藏在那里的奇觀。然而可通過光纖電纜遠程操作的機器人潛艇則更靈活，能夠探索更長的時間，而且每次改進之后的驗證過程也并不昂貴。

Mindell為我們講述了一個生動的場景。1977年，馬薩諸塞州伍茲霍爾海洋研究所海洋學家Robert Ballard和微生物學家Holger Jannasch坐潛水器遇到了一個海底噴口區(qū)。當Ballard想通過裂縫附近的玻璃窗觀察時，他意識到Jannasch卻背對著玻璃窗。當問及到為什么時，Jannasch說，攝像頭轉(zhuǎn)播的電視圖像視野更好。那一刻，Ballard意識到，在海面上看轉(zhuǎn)播的視野會更好，在那里，你可以舒適地觀看海底拍攝的高清視頻。然而，也有許多人認為并非如此。

Mindell研究了大量歷史、文化、政治、心理、哲學和公共關(guān)系等方面的理由，以便讓人類手握控制權(quán)。最近的一個例子是2015年6月，由大約3000位研究人員簽署的關(guān)于禁止自主武器的國際請愿書。

讓我們考慮這樣一個例子，Google公司宣布發(fā)現(xiàn)了其無人駕駛汽車中一個最不可靠的部分：當人類司機試圖接管汽車時，它的回應(yīng)是移除方向盤。Mindell解釋了為什么這是一個錯誤。在他所謂的「完全自主的神話」中，他指出機器可能周期性地自主操作，但是沒有機器可以完全獨立地工作，因為這意味著人類的意圖、假設(shè)及參數(shù)都需要內(nèi)置于所有的機器中。Mindell的這種經(jīng)驗使得他得出了和Markoff類似的結(jié)論：最重要(也是最困難)的挑戰(zhàn)是設(shè)計合適的接口，讓人類出現(xiàn)在整個決策回路中。

技術(shù)進步也具有不確定性。我們已經(jīng)經(jīng)歷了幾次循環(huán)，從非理性的熱情、到失望、再到研發(fā)資金的蒸發(fā)，即人們所說的人工智能冬天。和以前類似，最新一輪的期待也被夸大了。

這些危言聳聽的言論會加速接下來的低迷狀態(tài)，從而使得人們忽略更為現(xiàn)實和重要的發(fā)展，即多樣性。多樣性刻畫的是一種新興的系統(tǒng)，在其中，不同群體的人類可以和不同類別的機器一起工作，從而解決一些非常困難的問題，這一點與Markoff和Mindell的觀點一樣。多樣性在人工智能和智能擴增的交界處蓬勃發(fā)展，將人類的智慧和云計算的能力結(jié)合在了一起。正如設(shè)計師和計算機科學家John Maeda所說的那樣，這并不是我們和機器之間的對抗，而是我們和機器之間的合作。兩者聯(lián)合才能收獲更多。