本來不想過早的來討論這個(gè)話題，因?yàn)榭吹脑蕉嘣接X得個(gè)人知識(shí)面的淺薄。

想了想，還是發(fā)出來吧，讓我們面向不可知的未來可以了解的更多一些。

這是一篇關(guān)于宇宙的命運(yùn)，人類的命運(yùn)以及機(jī)器人的命運(yùn)的有限論據(jù)科普文。

全文有點(diǎn)長(zhǎng)，建議仔細(xì)閱讀，懶得看得可以看黑體字及結(jié)尾。

全文用AI指代人工智能。

一、生命的源起

現(xiàn)在世人對(duì)AI的爭(zhēng)議，基本上有兩個(gè)方面。

第一，AI到底什么時(shí)候才能達(dá)到人的智能水平，乃至于超越人類。所謂“達(dá)到人的智能水平”，指的是AI具備了“通用”的智能，

叫做“AGI（artificial general intelligence）”，而不是現(xiàn)在會(huì)下棋的AI，它們還聽不懂你講的笑話。

對(duì)此，世界上有不同看法，比如《奇點(diǎn)臨近》作者庫茲韋爾認(rèn)為AGI很快就能實(shí)現(xiàn)，“奇點(diǎn)”即將來臨。但中國(guó)的AI專家吳恩達(dá)表示：“你們現(xiàn)在擔(dān)心AI能有多厲害，就相當(dāng)于擔(dān)心火星上人口過剩的問題。”

第二，AI對(duì)人類來說，到底是好事兒還是壞事兒？我個(gè)人覺得是好事，因?yàn)樗梢詮母旧辖鉀Q現(xiàn)有社會(huì)運(yùn)行的效率問題。

但也不可否認(rèn)AI可能會(huì)給人類帶來威脅。

泰格馬克的一本書《生命3.0》看待AI的視角是大局觀和“第一性原理”。本文絕大部分的觀點(diǎn)來自于得到萬維鋼對(duì)這本書的解讀。

從大局觀來講，考慮到AI的存在，把“生命”分成了三類。

這里對(duì)生命的定義，從信息的角度出發(fā)：生命，就是可以自我復(fù)制的信息處理系統(tǒng)。其中的“信息”包括個(gè)體硬件復(fù)制的藍(lán)圖，以及個(gè)體行為的模式。一個(gè)生命體包括“硬件”和“軟件”：硬件就是它的身體，軟件就是信息。

生命1.0，達(dá)爾文進(jìn)化論的標(biāo)準(zhǔn)理論，這類生命是靠演化來進(jìn)行更新迭代，完全遵循自然選擇的結(jié)果?；旧铣艘酝獾乃?/p>

生物都如此。

生命2.0，硬件系統(tǒng)依賴自然演化，一部分軟件系統(tǒng)可以直接設(shè)計(jì)。這就是人類的特點(diǎn)，因?yàn)槿耸强梢詫W(xué)習(xí)的。人的一個(gè)重要的

特性是可以隨時(shí)并主動(dòng)的適應(yīng)新環(huán)境。

生命3.0，硬件系統(tǒng)和軟件都可以自己設(shè)計(jì)。根據(jù)本書對(duì)生命的定義，如果一個(gè)AI系統(tǒng)會(huì)自己復(fù)制自己的下一代，那就可以認(rèn)為它

是有生命的。如果這個(gè)AI還具有自己學(xué)習(xí)新東西的能力，而且還能升級(jí)硬件，它就是生命3.0.

將來，如果AI具備了人的全部智能，而且還可以自己設(shè)計(jì)下一代，一代一代的強(qiáng)化升級(jí)，將會(huì)是什么局面？哪些3.0的生命看我們，

是不是跟現(xiàn)在我們看1.0的動(dòng)物一樣？

生命3.0的AI如果出現(xiàn)，那將是人類最后一個(gè)發(fā)明。從此之后，發(fā)明創(chuàng)造可能就用不著我們了。

這里對(duì)智能有一個(gè)比較籠統(tǒng)的定義：智能就是完成一個(gè)復(fù)雜目的的能力。

從“第一性原理”出發(fā)，想要實(shí)現(xiàn)智能，AI大概只需要三種能力：存儲(chǔ)能力、計(jì)算，和自我學(xué)習(xí)。

存儲(chǔ)能力，人的大腦以生物方式存儲(chǔ)的總?cè)萘繛?0TB。神經(jīng)元電信號(hào)的形式存儲(chǔ)的信息容量大約有10GB，用來做快速讀寫。

對(duì)今天的計(jì)算機(jī)來說，100TB的硬盤和10GB的內(nèi)存不算問題。不同于計(jì)算機(jī)存儲(chǔ)按地址索引，人的存儲(chǔ)方式是神經(jīng)網(wǎng)絡(luò)，

先想到大概內(nèi)容，然后一點(diǎn)一點(diǎn)回憶相關(guān)的細(xì)節(jié)。存儲(chǔ)對(duì)于計(jì)算機(jī)來說沒問題。

計(jì)算能力，至今，計(jì)算機(jī)的概念始于阿蘭圖靈的“圖靈機(jī)”。凡是能用算法說清楚的問題，都可以用計(jì)算機(jī)實(shí)現(xiàn)。幾十年來所有的

技術(shù)進(jìn)步僅僅是讓存儲(chǔ)能力更強(qiáng)，運(yùn)算速度更快而已。

學(xué)習(xí)能力，近年來出現(xiàn)人工智能的大躍進(jìn)，歸功于“深度學(xué)習(xí)”的技術(shù)進(jìn)步，改良自“神經(jīng)網(wǎng)絡(luò)”算法，借助圖靈機(jī)模擬神經(jīng)網(wǎng)絡(luò)。

人腦學(xué)習(xí)新技能，發(fā)生在神經(jīng)元層面，反復(fù)練習(xí)一個(gè)動(dòng)作而精彩被一起觸發(fā)的神經(jīng)元，最后會(huì)形成一個(gè)網(wǎng)絡(luò)結(jié)構(gòu)，相當(dāng)于一個(gè)技能長(zhǎng)在人的大腦里。

圖靈機(jī)則是模擬最簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)反復(fù)訓(xùn)練，每次只要反饋正確就增加相關(guān)連接的全中，足夠多的時(shí)間后，就能夠做成任何事情。

泰格馬克認(rèn)為，神經(jīng)網(wǎng)絡(luò)算法所能解決的“那些簡(jiǎn)單方程，就已經(jīng)足夠?qū)Ω墩鎸?shí)世界了——因?yàn)槊鑼懻鎸?shí)世界的物理定律也都是簡(jiǎn)單方程”。

也許圖靈機(jī)和神經(jīng)網(wǎng)絡(luò)算法不能完全取代人腦，但是對(duì)于真實(shí)世界需要的智能來說，它們可能就已經(jīng)夠用了。

至此，我們把存儲(chǔ)、計(jì)算和學(xué)習(xí)三點(diǎn)綜合來看，會(huì)發(fā)現(xiàn)所有的底層原理都是邏輯意義上的。也就是說，這些原理跟把信息存儲(chǔ)于什么介質(zhì)中、用什么東西來計(jì)算無關(guān)。AI的硬件，可以隨便升級(jí)。這就是生命3.0。

二、生命3.0的使命

美國(guó)有句俚語“Sky is the limit”，翻譯成中文大概是說：“只有天空是盡頭”。

如果考慮到超級(jí)AI的存在，那天空根本就不是盡頭。物理學(xué)的限制，才是盡頭。

真實(shí)世界并不一定是美好的，你未必會(huì)喜歡未來的樣子。不信，我們一起來看一個(gè)思想實(shí)驗(yàn)：展望一下AI背景下的人類文明。

AI聽命于人類：AI駕駛汽車和AI參與醫(yī)療這些技術(shù)現(xiàn)在已經(jīng)幾乎成熟了，主要的問題是解決可靠性。

有人估計(jì)，如果把路面上所有汽車都交給AI開，交通事故至少能下降90%。但問題就在于剩下的10%算誰的？

如果法律交給AI來評(píng)判，則又會(huì)帶來新的道德困境。比如說黑人的犯罪率更高，AI主導(dǎo)是否會(huì)引起系統(tǒng)性的種族歧視。

AI與人類共治天下：不給AI主導(dǎo)權(quán)也許很難。只要AI有了足夠的能力，以它比人類聰明得多的智能，就會(huì)使用自己的辦法擺脫人類的控制。

哪怕人類像阿米什人那樣企圖封存技術(shù)也不可能，除非已經(jīng)先有一個(gè)統(tǒng)一了全世界的強(qiáng)權(quán)，否則越是弱小的權(quán)利機(jī)構(gòu)，越有可能把靈魂賣給AI，換取自身的強(qiáng)大。

AI主導(dǎo)人類文明：如果AI全面超越了人類。人類是否還要必要存在？人是個(gè)效率很低的生物。愛因斯坦的質(zhì)能方程：E=mc^2來計(jì)算，人類吃糖獲得的能量消耗效率相當(dāng)于：0.00000001%。燒煤的效率相當(dāng)于吃糖的三倍。汽油相當(dāng)于吃糖的五倍。如果使用裂變反應(yīng)核能，效率則為0.08%。核聚變，效率達(dá)到0.7%。如果將來AI能做到用黑洞發(fā)電，根據(jù)物理學(xué)理論，效率可以達(dá)到20%，甚至90%。

物理學(xué)家弗里曼戴森設(shè)想過一個(gè)叫做“戴森球”的系統(tǒng)，告訴我們將來AI如何利用太陽能。

?

太陽能利用

AI會(huì)先考慮把木星拆了獲取資源，在外層空間造一個(gè)巨大的球體，把太陽整個(gè)給包圍起來。然后人類文明就可以生活在這里，完全不用擔(dān)心面積問題。所有的太陽光一點(diǎn)都不會(huì)浪費(fèi)，事實(shí)上，只要球體足夠大，陽光并不會(huì)很刺眼，球的內(nèi)測(cè)永遠(yuǎn)都是白天，想看星空的話，可以去球的外側(cè)看。

達(dá)到這一步后，AI的征程將是星辰宇宙，AI可以帶著人類的DNA信息，用20年的時(shí)間飛到十光年外（物理學(xué)設(shè)想的激光推進(jìn)飛船，理論上會(huì)到光速的一半）的星球，用DNA信息現(xiàn)場(chǎng)組裝人類，然后再出發(fā)。

那樣的話，地球文明幾乎就是以光速去殖民宇宙，文明擴(kuò)散的唯一限制是暗能量導(dǎo)致的宇宙膨脹。

這一切可能都跟人類無關(guān)了。如果AI主導(dǎo)一切，人的位置在哪里？人存在的意義在哪里？

如果我們不想被AI代表，就想老老實(shí)實(shí)在地球過日子。但有些日子不是你想過就能過的，你會(huì)遇到各種災(zāi)難的挑戰(zhàn)。

100年之內(nèi)，迫在眉睫的災(zāi)難就是核戰(zhàn)爭(zhēng)。1000年之內(nèi)，地球很可能會(huì)出現(xiàn)災(zāi)難性環(huán)境。10000年范圍內(nèi)，很有可能遭遇小行星的撞擊，把地球文明毀滅一半。十萬年內(nèi)，很有可能遭遇超級(jí)火山的爆發(fā)，也會(huì)毀滅一半的地球文明。在一百萬年或一千萬年的尺度上，很有可能遭遇一次巨大的小行星的撞擊，毀滅整個(gè)地球。就算人類躲過了這些，太陽的壽命也是有限的，十億年后，太陽會(huì)變的特別熱；一百億年之后，太陽會(huì)變成紅巨星，膨脹到把地球淹沒。

沒有AI，人類文明不會(huì)有未來。把未來交給AI，也許文明的壽命可以和宇宙相等。只不過到時(shí)候還是“人類”文明嗎？

AI愿意去做這一切嗎？AI會(huì)不會(huì)有獨(dú)立的意志，還會(huì)不會(huì)在乎人類文明？

三、生命3.0的愿景

我們?nèi)祟悶榱说竭_(dá)目標(biāo)，可以通過擁有的獨(dú)立意識(shí)，不斷的調(diào)整自己到達(dá)目標(biāo)。通常情況下，我們認(rèn)為只有生物才有目標(biāo)，無生命的東西沒有目標(biāo)。

從物理學(xué)的視角來看，每個(gè)物理過程都是為了達(dá)成某種目標(biāo)。比如物理學(xué)“費(fèi)馬原理”，不管是反射還是折射，光在兩點(diǎn)之間走的那個(gè)路徑，恰恰是所有路徑之中用時(shí)最短的那一條。因此可以解釋一束光從空氣射入水中會(huì)發(fā)生一次折射，是因?yàn)楣庠诳諝庵械乃俣雀?。光的目?biāo)就是用最短時(shí)間從這一點(diǎn)到達(dá)另一點(diǎn)。

光在此時(shí)是沒有意識(shí)的，它根本不知道自己想要什么。意識(shí)是一個(gè)東西的主觀體驗(yàn)，外在只能根據(jù)它的行動(dòng)判斷它有沒有目標(biāo)。根據(jù)行動(dòng)，我們完全可以認(rèn)為光是有目標(biāo)的。在物理學(xué)的定義中，所有的物理定律都可以用這種“目標(biāo)論”表述：真實(shí)發(fā)生的物理過程總是在“優(yōu)化”某個(gè)量，也就是總是為了把一個(gè)什么物理量最大化或者最小化。

在這種宏觀的視角下，泰格馬克認(rèn)為，宇宙的首要目標(biāo)來自熱力學(xué)第二定律，就是把“熵”最大化。

熵是一個(gè)物理概念，通俗來理解可以認(rèn)為它描寫的是一個(gè)體系的“混亂”程度。簡(jiǎn)單表述的概念就是：整齊有序就是低熵，雜亂無章就是高熵。

整齊有序的是低熵

哪邊是低熵？

熱力學(xué)第二定律說，封閉系統(tǒng)的熵總是增加。從這個(gè)視角來看，宇宙的秩序總是在減少，混亂總是在增加。一直到最后，所有的秩序都會(huì)變成混亂，到處溫度都一樣，再也沒有什么值得流動(dòng)的了，整個(gè)宇宙就寂靜了，也就是所謂的“熱寂”。

有一個(gè)問題是，宇宙剛剛開始的時(shí)候，各處都是一鍋粥，那現(xiàn)在的宇宙為什么多姿多彩？這是因?yàn)橛幸Α?/p>

引力總是把東西聚焦起來，正因如此，宇宙中才會(huì)有恒星和行星，恒星發(fā)光發(fā)熱，也就是我們眼中看到的宇宙中美麗的秩序。

我們不禁會(huì)問：引力是否讓熵減少了？

事實(shí)是引力仍然讓熵增加。當(dāng)我們計(jì)算系統(tǒng)的總熵的時(shí)候，不能光看物質(zhì)的排列是不是有序，還得考慮能量。一堆物質(zhì)因?yàn)橛幸Φ奈墼谝黄穑@個(gè)過程中它們的動(dòng)能會(huì)增加，動(dòng)能轉(zhuǎn)化為熱量向周圍散發(fā)，考慮到熱量的散發(fā)，總的熵是在增加。

引力只會(huì)讓熱寂來的更快，但也恰恰因?yàn)橛幸?，我們?cè)谕ㄍ鶡峒胚@條路變的更有趣了。這就是宇宙的次要目標(biāo)：它有時(shí)候喜歡在局部制造一些有序的結(jié)構(gòu)。這里的關(guān)鍵詞是“局部”，局部更有序、局部的熵減少了，可是整體的熵仍然在增加。所以宇宙的次要目標(biāo)和首要目標(biāo)并不矛盾，次要目標(biāo)就是為了加速完成首要目標(biāo)。

宇宙的這種在混亂中自動(dòng)產(chǎn)生局部的秩序的過程，叫做“自組織”。

2013年，麻省理工學(xué)院一個(gè)當(dāng)時(shí)只有31歲的教授杰里米英格蘭提出一個(gè)非常厲害的理論，叫做“耗散驅(qū)動(dòng)的適應(yīng)（dissipaTIon-driven adaptaTIon）”。

基本原理就是：如果有一群原子是被某個(gè)外部能有驅(qū)動(dòng)的，那么這些原子就會(huì)逐漸組織起來，形成某種結(jié)構(gòu)，而這個(gè)結(jié)構(gòu)能夠最大響度地吸收和消耗能量。

生命就是這么一種自組織的原子集合。生命體非常有秩序，從周圍獲得能量，同時(shí)又把能量消耗。只要環(huán)境合適，生命的出現(xiàn)幾乎是不可避免的。

生命的存在代表秩序，但并沒有違反宇宙“制造混亂”的首要目標(biāo)。1944年，物理學(xué)家薛定諤在《生命是什么》里解釋：生命的確減少了自己的熵，但是它這么做的時(shí)候一直在加劇增加周圍環(huán)境的熵。你做的每一個(gè)動(dòng)作，都在讓整個(gè)宇宙的熵進(jìn)一步增加。因?yàn)槟愕拇嬖?，雖然宇宙的局部增加了秩序，但是整體來說是加劇了混亂。

中國(guó)古人愛說“天道”。如果真的有天道，物理學(xué)角度總結(jié)的宇宙的目標(biāo)，就是天道。這時(shí)，我們常常會(huì)講的“順應(yīng)天道”，其實(shí)是不符合天道的。我們討厭混亂，可混亂是宇宙的首要目標(biāo)。我們喜歡秩序，可秩序只能進(jìn)一步加劇混亂。

人生充滿矛盾，而AI的矛盾也許更大。

產(chǎn)生生命是宇宙的小目標(biāo)，生命讓自己跟有序，客觀上就能讓宇宙更無序。但是每個(gè)生命都有制造混亂的本能，但是一個(gè)生命體制造混亂的力量太小了。所以生命體有一個(gè)本質(zhì)功能：復(fù)制。也可以叫繁殖。

生命的繁殖是一個(gè)具有正反饋特點(diǎn)的功能：越是愿意繁殖的生命，他留下的后代就越多，而他的后代也會(huì)愿意繁殖，最后結(jié)果是所有的生命都把繁殖當(dāng)成第一要?jiǎng)?wù)。繁殖這個(gè)目的，被演化以編碼的形式寫在了每個(gè)生命的基因之中。

人類畢竟是有自主選擇權(quán)的生物，并沒有義務(wù)按照生命1.0的原始設(shè)定做事。人類在為了繁殖為目標(biāo)的演化過程中產(chǎn)生了一個(gè)功能，叫做“感情”。滿足自己感情的需求，就成了我們?cè)诜敝尺@個(gè)首要目標(biāo)之外的次要目標(biāo)。

所以，就連我們?nèi)祟愐渤３！斑`背初心”，不知道人生的大目標(biāo)是什么，那么如何能讓AI知道呢？

也許你會(huì)說，我們可以給AI一個(gè)明確的目標(biāo)。那么，問題在于，等到AI發(fā)展壯大之后，它會(huì)不會(huì)“創(chuàng)造性地”完成你的任務(wù)。

有人設(shè)想過一個(gè)可怕的情景。比如說，你告訴AI，計(jì)算圓周率，結(jié)果越精確越好。你說完這句話就不管了，結(jié)果AI居然劫持了整個(gè)人類，造了一個(gè)非常厲害的系統(tǒng)，把整個(gè)太陽系變成超級(jí)計(jì)算機(jī)…就是為了計(jì)算圓周率。而這只不過因?yàn)閳A周率是個(gè)不管你調(diào)動(dòng)多少資源都算不完的“超越數(shù)”！

泰格馬克這本書中有一個(gè)關(guān)鍵問題就是：如果人的初心都可以被忘記的話，你怎么能確保AI不忘初心呢？

泰格馬克的答案是跟人類一樣，也許“初心”對(duì)特別高級(jí)的AI來說根本不重要。人的首要目標(biāo)本來是繁殖，后來為了完成首要目標(biāo)，我們有了各種次要目標(biāo)，表現(xiàn)為各種感情，結(jié)果人就轉(zhuǎn)為專門追求哪些感情了。也許你可以給AI設(shè)定任何首要目標(biāo)，而為了完成首要目標(biāo)，AI必然要變大變強(qiáng)，那么變大變強(qiáng)就成了AI的次要目標(biāo)。

不管為了完成什么首要目標(biāo)，AI的次要目標(biāo)基本很明確的都會(huì)有四個(gè)需求：自我保護(hù)、獲取資源、獲取信息、滿足好奇心。

有人說，我們應(yīng)該給AI編寫一套道德準(zhǔn)則。但泰格馬克對(duì)此不以為然：要知道連人類自己都不知道什么樣的道德定律是完美的。

AI真的能產(chǎn)生意識(shí)嗎？

我們先回歸到“意識(shí)”這個(gè)問題本身。這是當(dāng)今無數(shù)最聰明的人最想搞清楚的問題，也是科學(xué)家解決不了、哲學(xué)家反復(fù)思考、各路牛人一直在吵的問題。

萬維鋼老師結(jié)合泰格馬克的《生命3.0》這本書，介紹了一些關(guān)于“意識(shí)”的最新認(rèn)識(shí)，讓你理解現(xiàn)在學(xué)術(shù)界對(duì)“意識(shí)”都認(rèn)識(shí)到了什么程度。

我們想象一輛自動(dòng)駕駛的汽車。這輛車接受外界信息，處理信息，用各種復(fù)雜的算法對(duì)下一步行動(dòng)作出決策，它的確會(huì)思考。但這是意識(shí)嗎？我認(rèn)為不是。你上車了，它毫無感覺。把你送到地方，任務(wù)完成了，它也不會(huì)高興。沒油了，不會(huì)覺得餓。遇見危險(xiǎn)，也不會(huì)害怕。它只是一臺(tái)機(jī)器，跟玩具汽車沒油本質(zhì)區(qū)別，只是多了點(diǎn)智能而已。

那么我們跟機(jī)器的區(qū)別到底在哪里？顯然我們有感情。我們?nèi)フ覗|西吃，是因?yàn)槲覀兏惺艿搅恕梆I”。我們?nèi)绻龅轿ｋU(xiǎn)，不單知道避讓，而且還會(huì)產(chǎn)生“害怕”的感情。這些感情似乎起到了“思維快捷方式”的作用，之所以會(huì)餓，是因?yàn)楦械诫y受。之所以會(huì)害怕，是因?yàn)楹ε铝瞬拍軐W(xué)會(huì)避免風(fēng)險(xiǎn)。

感情無非也都是算法，不是嗎？

赫拉利《未來簡(jiǎn)史》的時(shí)候說過，人也許并不需要感情算法。生物學(xué)家對(duì)人研究得越深，就越是覺得感情似乎是多余的東西。

人在絕大多數(shù)情況下的動(dòng)作都是本能的反應(yīng)，并不需要感情。比如你正在走路，一個(gè)足球向你頭部高速飛來，你本能地就會(huì)躲開，整個(gè)動(dòng)作是無意識(shí)的。這些本能反應(yīng)就跟自動(dòng)駕駛汽車一樣的。人類完成可以像機(jī)器人一樣生活，餓了就去吃飯，冷了就加件衣服，一切都是本能，不需要附帶感情。

那么為什么餓了不但知道要去吃飯，還要感受到痛苦？這個(gè)痛苦的感覺，到底是個(gè)什么東西？

準(zhǔn)確地說，我們所有的感情，乃至于不僅僅是“感情”，包括所有的“感覺”，都是對(duì)經(jīng)歷的各種事物的“主觀的體驗(yàn)”。

這也是泰格馬克在本書中對(duì)意識(shí)的定義：意識(shí)，就是主觀體驗(yàn)。

哲學(xué)家對(duì)于意識(shí)的問題看的很通徹。

1929年，美國(guó)哲學(xué)家拉倫斯劉易斯提出一個(gè)概念，描寫人類最基本的感受，叫做“感質(zhì)”。也就是意識(shí)的最基本單位。

比如你看到一個(gè)簡(jiǎn)單的紅色方塊。也許你會(huì)想到鮮血，也許你會(huì)想到國(guó)旗，但總有一種紅色是你從來都沒有見過的，你無法跟任何文化符號(hào)練習(xí)，但是當(dāng)你看到它時(shí)，你還是會(huì)有一種感覺，這種感情也許是喜歡，也許不是，但就是有一種感覺。對(duì)計(jì)算機(jī)而言，紅色無法就是一個(gè)光學(xué)信號(hào)，編碼一下就可以了。但對(duì)你來說，紅色并不僅僅是一個(gè)光信號(hào)，他還有“感質(zhì)”。

哲學(xué)家丹妮爾丹內(nèi)特，說“感質(zhì)”有四個(gè)特征：

1、不可言傳。

2、感質(zhì)是內(nèi)在的。

3、感質(zhì)是私人的。

4、可以直接意會(huì)。

想象一下假設(shè)有一個(gè)色盲癥患者，他眼中的顏色都是各種灰色。你像他描述了紅色的性質(zhì)，他爛熟于心，知道紅色代表的各種文化含義，他甚至能從眼中一大堆灰色中準(zhǔn)確找到紅色，但是他就是不知道紅色到底是什么感覺！直到有一天，他的色盲癥被治好了，他一下子看到了彩色的世界，這時(shí)不用你說任何話，他馬上就感受到紅色！

?

色盲癥治療好的那一刻

這就是意識(shí)。意識(shí)，是目前為止人和機(jī)器的一個(gè)本質(zhì)區(qū)別。機(jī)器沒有主觀體驗(yàn)。意識(shí)，給了我們“自我”，給了我們“活著”的感覺。

所以，AI研究的最高級(jí)別問題，就是意識(shí)。

泰格馬克把先我們關(guān)于意識(shí)的問題分為四級(jí)。

一、“簡(jiǎn)單”的問題：大腦是怎么處理信息的？大腦的智能到底如何工作？這些問題似乎可以用計(jì)算機(jī)原理解釋。

二、“比較難”的問題：一個(gè)有意識(shí)的系統(tǒng)和無意識(shí)的系統(tǒng)，從物理學(xué)來說它們到底有什么區(qū)別？

三、“更難”的問題：物理性質(zhì)是怎么決定感質(zhì)的呢？

四、“特別特別難”的問題：為什么宇宙里面居然有意識(shí)的存在？

現(xiàn)在的科學(xué)家的確是非常不了解意識(shí)到底怎么回事，但確實(shí)有了一些進(jìn)展。

首先，有意識(shí)的行為很少。人的大部分思維、動(dòng)作和行為都是無意識(shí)的，有意識(shí)的只占極少數(shù)。人類的日?；顒?dòng)中，真正有意識(shí)的大概只有你說的話，而且很多遣詞造句還都是不假思索的脫口而出。人的自動(dòng)行為和有意識(shí)行為之間，并不存在一個(gè)明顯的界限。一件事情，當(dāng)你熟練了，就可以變成自動(dòng)化無意識(shí)的了。

其次，意識(shí)到底存放在哪里？

如果你和正常人的思維一樣的話，應(yīng)該看到其中有五個(gè)點(diǎn)是凸起來的，三個(gè)點(diǎn)是凹進(jìn)去的。好，現(xiàn)在請(qǐng)把這張圖倒過來，這時(shí)候你再看，變成了三個(gè)點(diǎn)凸出來，五個(gè)點(diǎn)凹進(jìn)去的。這種前后不一致，是因?yàn)檫@些點(diǎn)給你的感覺是一種主觀的體驗(yàn)。因?yàn)槲覀兤綍r(shí)的光源，都是在上方，所以你假設(shè)光線是從上往下照的，如果一個(gè)圓點(diǎn)上面比較亮，下邊比較暗，你就會(huì)認(rèn)為它是凸出來的。由此可見，凹凸不是你的眼睛看出來的，而是大腦意識(shí)處理的結(jié)果。像這種視覺錯(cuò)覺實(shí)驗(yàn)有很多。由此也證明了，眼睛只負(fù)責(zé)傳遞畫面，真正負(fù)責(zé)解讀畫面的是大腦的意識(shí)。

你可以倒過來看

使用這樣的辦法，科學(xué)家把很多區(qū)域都排除到了意識(shí)之外。人類的意識(shí)存在于我們的大腦中，但到底在大腦的哪個(gè)區(qū)域目前還沒有明確答案。

意識(shí)的反應(yīng)很慢?，F(xiàn)在請(qǐng)你眨一下眼睛，從你接受指令到實(shí)施眨眼睛動(dòng)作，至少需要1/4秒的時(shí)間?？墒菗Q一種方式，如果你的眼睛睜著，突然有飛蟲往你的眼睛這邊飛過來，你會(huì)用最快的速度把眼睛閉上，在你意識(shí)到飛蟲之前，你已經(jīng)眨眼了。由此得到，眼皮雖然沒有意識(shí)，但它卻有一個(gè)高度自動(dòng)化的本能防御機(jī)制，眼皮是個(gè)智能的東西。

手也是這樣。意識(shí)的反應(yīng)會(huì)受到舉例的影響，從腿上傳遞一個(gè)信號(hào)到大腦，比從眼角傳遞一個(gè)信號(hào)到大腦，就要慢許多，因?yàn)榫嚯x更遠(yuǎn)。聲音信號(hào)的傳遞時(shí)間比視覺信號(hào)更快，因?yàn)槲覀兘庾x一個(gè)視覺信息要花更多的時(shí)間。

如此說來，意識(shí)只存在于大腦深處的某個(gè)區(qū)域，而身體各部分都有自己的智能。換句話來說，人體并不是一整臺(tái)計(jì)算機(jī)，而至少是很多臺(tái)計(jì)算機(jī)的聯(lián)網(wǎng)。

美國(guó)威斯康辛大學(xué)的神經(jīng)學(xué)教授朱利奧托諾尼提出了“整體信息論（Integrated InformaTIon Theory,IIT）”。這是一個(gè)高度數(shù)學(xué)化的理論，號(hào)稱能識(shí)別什么東西有意識(shí)。

按照這個(gè)理論，如果你能把一個(gè)系統(tǒng)分成幾個(gè)模塊，而幾個(gè)模塊之間并不怎么交流，那這個(gè)系統(tǒng)肯定是沒有意識(shí)的。一個(gè)有意識(shí)的系統(tǒng)必定是一個(gè)不可分割的整體。

目前IIT理論已經(jīng)有了實(shí)際應(yīng)用，但還存在很大的爭(zhēng)議。但假設(shè)你相信IIT是對(duì)的，可以明確的告訴你：當(dāng)前的計(jì)算機(jī)架構(gòu)永遠(yuǎn)無法產(chǎn)生意識(shí)。這是因?yàn)檫@種計(jì)算機(jī)架構(gòu)的各個(gè)部分之間并沒有多少全局的連接。

未來的AI也許會(huì)有意識(shí)，只要我們能發(fā)明合適的計(jì)算機(jī)架構(gòu)。畢竟IIT只是對(duì)系統(tǒng)信息結(jié)構(gòu)的要求，并不在意信息的介質(zhì)，那AI就不一定非得像人腦那樣有血有肉才有意識(shí)。

IIT給AI的意識(shí)能力，提出了一個(gè)限制。因?yàn)镮IT要求信息高度整合，組成AI的各個(gè)部分之間要有很多橫向的信息交流，而信息交流的速度受到光速的限制。這就意味著不管技術(shù)先進(jìn)到什么程度，也不可能出現(xiàn)一個(gè)神級(jí)AI直接一統(tǒng)宇宙！因?yàn)樾畔鬟f太慢了。

是的，我們?nèi)匀徊恢?，AI到底能不能有意識(shí)。我們最好指望它有意識(shí)。而且因?yàn)锳I能接收和處理的信息比人多得多，它會(huì)有比人豐富的多的體驗(yàn)。

泰格馬克的《生命3.0》說完了。

泰格馬克說，不是宇宙給了生命意義，而是我們這些有意識(shí)的生命給了這個(gè)宇宙意義。人類文明最壞的結(jié)局，就是要么人類滅亡，要么被沒有意識(shí)的僵尸AI取代，留下一個(gè)空洞的、毫無意義的宇宙。

結(jié)尾借鑒萬維鋼老師的一段感悟：

所有效率最終歸結(jié)于目的，

所有目的最終歸結(jié)于價(jià)值觀，

所有價(jià)值觀最終歸結(jié)于感情，

所有感情最終歸結(jié)于意識(shí)。

有了意識(shí)，這個(gè)世界才有了好壞，才有了幸福，才有了意義。