莫達(dá)非尼（modafinil）是一種常用的覺醒促進(jìn)劑，用于治療睡眠紊亂、嗜睡癥等。如果你仔細(xì)閱讀它的說明書，你會(huì)發(fā)現(xiàn)內(nèi)容十分硬核無聊，也就是市面上常見的Provigil，和很多藥物一樣，都被包裝在一個(gè)小紙盒里。

紙盒里大部分內(nèi)容都是用于提示說明，包括藥物使用說明及注意事項(xiàng)、藥物分子結(jié)構(gòu)示意圖。但是，在“作用機(jī)制”部分，卻有這么一句嚇?biāo)廊说脑挕渲嘘P(guān)于“藥物作用機(jī)制”的一小部分內(nèi)容，尤其是一句特定的描述則可能會(huì)讓人無語到想入睡——“有關(guān)莫達(dá)非尼如何使人保持清醒的作用機(jī)制尚不明了！”。

像莫達(dá)非尼一樣神秘莫測的藥物不在少數(shù)。很多藥物盡管獲得了監(jiān)管部門的批準(zhǔn)，并且被廣泛使用，但實(shí)際上也沒人知道它們到底是如何起作用的。

這種神秘性源自于通過反復(fù)試驗(yàn)進(jìn)行藥物開發(fā)的過程。新藥物每年都會(huì)在人工培養(yǎng)的細(xì)胞或動(dòng)物身上試驗(yàn)，而其中最好且最安全的藥物才會(huì)進(jìn)行人體試驗(yàn)。在某些情況下，藥物的成功會(huì)促進(jìn)新的研究從而解釋藥物的作用機(jī)制。比如，1897年阿司匹林問世，但直到1995年才有人真正解釋了它是如何起作用的。

醫(yī)學(xué)領(lǐng)域里，這種現(xiàn)象比比皆是。深度腦部刺激需要將電極插入患有特定行動(dòng)障礙（如帕金森病）的患者腦部。這種方法已被廣泛使用二十多年，還有些人認(rèn)為應(yīng)該擴(kuò)大它的使用范圍，如提高一般認(rèn)知能力等。然而，沒有人能說清它的作用機(jī)制。

這種先找答案再解釋的方法，稱為“智力債務(wù)”。

在某些情況下，我們會(huì)馬上還清這筆智力債務(wù)。但是，其他情況下，我們可能幾十年都難以證實(shí)所用的方法理論。

在過去，智力債務(wù)一直局限于一些需要進(jìn)行反復(fù)試驗(yàn)的領(lǐng)域，如醫(yī)學(xué)。但現(xiàn)在這種情況發(fā)生了變化。

隨著人工智能新技術(shù)，特別是機(jī)器學(xué)習(xí)的出現(xiàn)，我們的“智力信用額度”被提高了。機(jī)器學(xué)習(xí)系統(tǒng)在數(shù)據(jù)海洋中識別模式，并借助這些模式來解決一些模糊開放的問題。例如，提供一個(gè)有關(guān)貓和其他非貓科動(dòng)物的標(biāo)記圖片數(shù)據(jù)集，機(jī)器學(xué)習(xí)系統(tǒng)就學(xué)會(huì)了如何識別貓。同樣地，讓系統(tǒng)訪問醫(yī)療記錄，它就可以嘗試預(yù)測一個(gè)新入院病人的死亡可能性。

然而，大多數(shù)的機(jī)器學(xué)習(xí)系統(tǒng)并沒有發(fā)現(xiàn)因果機(jī)制（causal mechanisms）?；诮y(tǒng)計(jì)相關(guān)性引擎的機(jī)器學(xué)習(xí)系統(tǒng)無法解釋為什么它們認(rèn)為某些患者更有可能死亡，因?yàn)樗鼈儾⒉豢紤]數(shù)據(jù)的含義，而只是提供結(jié)果。當(dāng)我們將這些系統(tǒng)融入日常生活時(shí)，我們將共同承擔(dān)越來越多的智力債務(wù)。

制藥領(lǐng)域的發(fā)展表明，在某些情況下，智力債務(wù)是不可或缺的。那些我們并不理解的干預(yù)措施已經(jīng)挽救了數(shù)百萬人的生命。很少有人會(huì)因?yàn)椴磺宄渥饔脵C(jī)制而拒絕服用拯救生命的藥物，如阿司匹林。

但是，智力債務(wù)的增加也會(huì)帶來不好的結(jié)果。隨著具有未知作用機(jī)制的藥物激增，發(fā)現(xiàn)不良反應(yīng)所需的測試數(shù)量呈指數(shù)級增長。

如果清楚藥物的作用機(jī)制，就可以預(yù)測其不良反應(yīng)。在實(shí)踐中，藥品間的相互作用往往是在新藥上市后才發(fā)現(xiàn)的，這就形成了一個(gè)循環(huán)。在這個(gè)循環(huán)中，藥物先被上市，然后被遺棄，期間還伴隨著集體訴訟。

通常，伴隨著新藥產(chǎn)生的智力債務(wù)有一定的合理性。但是智力債務(wù)并不是孤立存在的。在不同領(lǐng)域發(fā)現(xiàn)和部署的沒有理論基礎(chǔ)的答案，會(huì)以不可預(yù)測的方式使彼此交錯(cuò)復(fù)雜化。

通過機(jī)器學(xué)習(xí)產(chǎn)生的智力債務(wù)風(fēng)險(xiǎn)已經(jīng)超出了過去反復(fù)試驗(yàn)糾正所帶來的風(fēng)險(xiǎn)。因?yàn)榇蠖鄶?shù)機(jī)器學(xué)習(xí)模型無法提供做出判斷的理由，所以如果它們沒有對所提供的答案進(jìn)行獨(dú)立判斷，那么就不知道它們會(huì)在何時(shí)失誤。訓(xùn)練良好的系統(tǒng)很少出現(xiàn)失誤，但如果一些人知道該向系統(tǒng)提供什么數(shù)據(jù)從而故意制造失誤時(shí)，那情況就很糟糕了。

以圖像識別為例。十年前，計(jì)算機(jī)還無法輕易地識別出圖像中的物體。而今天，圖像搜索引擎，像我們?nèi)粘；?dòng)的許多系統(tǒng)一樣，都基于極其強(qiáng)大的機(jī)器學(xué)習(xí)模型。

谷歌的圖像搜索依賴于名為Inception的神經(jīng)網(wǎng)絡(luò)。2017年，一個(gè)由麻省理工學(xué)院本科生和研究生組成的研究小組LabSix就通過改變一張貓的圖像的像素（盡管在人看來它還是一張貓的圖像），讓IncepTIon有99.99%的把握認(rèn)為它是一張鱷梨醬的圖像。

IncepTIon系統(tǒng)顯然無法解釋究竟是哪些特征使其能夠判斷一只貓是否真的是貓，因而當(dāng)提供特制或損壞的數(shù)據(jù)給系統(tǒng)時(shí)，也很難預(yù)測系統(tǒng)是否會(huì)出現(xiàn)失誤。這些系統(tǒng)在準(zhǔn)確性上存在的未知漏洞，無疑給了攻擊者機(jī)會(huì)。

伴隨著機(jī)器學(xué)習(xí)系統(tǒng)所生成的知識的使用，這些差距也就隨之產(chǎn)生了。一些醫(yī)療AI經(jīng)過訓(xùn)練后已經(jīng)能分辨出皮膚腫瘤是良性還是惡性。

然而，就像哈佛醫(yī)學(xué)院和麻省理工學(xué)院的研究人員通過改變圖片的某些像素騙過系統(tǒng)，讓其做出錯(cuò)誤的判斷，攻擊者也可能會(huì)利用這些漏洞實(shí)施保險(xiǎn)欺詐。

在人工智能系統(tǒng)預(yù)測能力的誘惑下，我們可能會(huì)放棄自身的判斷。但是系統(tǒng)存在著被劫持的可能，而我們沒有什么簡單的方法來驗(yàn)證其答案的正確性。

既然如此，我們能否能為智力債務(wù)創(chuàng)建一個(gè)資產(chǎn)負(fù)債表，從而跟蹤那些無理論知識的用途呢？

如果一個(gè)AI生成了一個(gè)新的披薩配方，那么你無需多言，盡管享用便是了。然而，當(dāng)我們要用AI進(jìn)行醫(yī)療健康方面的預(yù)測推薦時(shí)，我們就希望得到充分的信息。

建立并維護(hù)整個(gè)社會(huì)的智力債務(wù)的資產(chǎn)負(fù)債表可能需要我們改進(jìn)對商業(yè)機(jī)密和其他知識產(chǎn)權(quán)的處理方式。在城市中，建筑法規(guī)要求業(yè)主公開披露他們的裝修計(jì)劃。同樣地，我們也可以要求圖書館或者大學(xué)接受托管，并公開那些公共使用的隱藏?cái)?shù)據(jù)集和相關(guān)算法。這樣研究人員就可以探索我們將要依賴的這些AI的模型及基礎(chǔ)數(shù)據(jù)，并通關(guān)建立相關(guān)理論，在我們智力債務(wù)的漏洞和脆弱性“到期”之前支付。

機(jī)器學(xué)習(xí)模型越來越普遍，幾乎每個(gè)人都可以創(chuàng)建一個(gè)。雖然這使得會(huì)計(jì)變得十分困難。但統(tǒng)計(jì)我們的智力債務(wù)卻是至關(guān)重要的。

機(jī)器學(xué)習(xí)系統(tǒng)單獨(dú)來看會(huì)持續(xù)產(chǎn)生有用的結(jié)果，但是這些系統(tǒng)并不是孤立存在的。這些AI收集并提取整個(gè)世界的數(shù)據(jù)，同時(shí)也產(chǎn)生著自身的數(shù)據(jù)，而其中很大一部分會(huì)被其他機(jī)器學(xué)習(xí)系統(tǒng)所使用。就像具有未知作用機(jī)制的藥物有時(shí)會(huì)相互作用一樣，那些背負(fù)智力債務(wù)的算法也是如此。

別小看了這些債務(wù)疊加產(chǎn)生的影響，因?yàn)榧词故呛唵蔚幕?dòng)也會(huì)導(dǎo)致麻煩。

2011年，一位名叫Michael Eisen通過他的一名學(xué)生發(fā)現(xiàn)，在亞馬遜上售賣的所有普通舊書中最便宜的一本The Making of a Fly： The GeneTIcs of Animal Design副本售價(jià)為170萬美元，外加3.99美元的運(yùn)費(fèi)。第二便宜的副本售價(jià)為210萬美元。

兩個(gè)賣家都有上千條好評，當(dāng)Eisen連續(xù)幾天訪問該書的亞馬遜網(wǎng)頁后，他發(fā)現(xiàn)價(jià)格以一種規(guī)律持續(xù)上漲。A賣家的價(jià)格總是B賣家價(jià)格的99.83%，而B賣家的價(jià)格總是A賣家價(jià)格的127.059%。Eisen據(jù)此推測A賣家確實(shí)有一本副本，因此總是比第二便宜的賣家的價(jià)格低那么一點(diǎn)；而B賣家卻沒有副本，所以價(jià)格才會(huì)定得更高。如果有人在B賣家訂購了這本書，那么B賣家就可以從A賣家那里買過來然后轉(zhuǎn)手賣出。

每個(gè)賣家策略的設(shè)定都很理性。但正是他們算法的相互作用產(chǎn)生了不合理的結(jié)果。數(shù)以千計(jì)的機(jī)器學(xué)習(xí)模型在不受監(jiān)管的情況下進(jìn)行互動(dòng)所產(chǎn)生的結(jié)果更是難以預(yù)測。早已部署了尖端機(jī)器學(xué)習(xí)系統(tǒng)的金融市場是此類問題的溫床。

去年秋天，摩根大通（J. P. Morgan）分析師Marko Kolanovic認(rèn)為金融市場的崩潰很容易再次發(fā)生，因?yàn)楝F(xiàn)在的交易大多基于自動(dòng)化系統(tǒng)。智力債務(wù)在這些系統(tǒng)的相互作用下不斷累積，盡管有時(shí)它們并不是正式關(guān)聯(lián)的。如果沒有類似于資產(chǎn)負(fù)債表這樣的東西，我們就無法預(yù)測或者回溯這些智力債務(wù)是否值得承擔(dān)。

智力債務(wù)的增加也可能改變我們對基礎(chǔ)科學(xué)和應(yīng)用技術(shù)的思考方式。與那些由政府支持，由學(xué)術(shù)研究機(jī)構(gòu)運(yùn)營的大型資本項(xiàng)目（如粒子加速器等）不同，機(jī)器學(xué)習(xí)工具很容易被私營企業(yè)或?qū)W術(shù)界所使用。

實(shí)際上，與計(jì)算機(jī)科學(xué)或者統(tǒng)計(jì)相關(guān)部門相比，Google和Facebook更容易獲得那些能夠產(chǎn)生有用的預(yù)測結(jié)果的數(shù)據(jù)集。商人們很喜歡這些雖然無法解釋但足夠有用的知識，但智力債務(wù)也隨之增加了。它由公司所持有，使得那些致力于減少智力債務(wù)的學(xué)術(shù)研究人員難以接觸得到。

我們很容易地想到，因?yàn)闄C(jī)器學(xué)習(xí)知識的可用性，那些真正試圖理解機(jī)器學(xué)習(xí)背后理論基礎(chǔ)的研究者很難再獲得資金支持。去年12月，一位蛋白質(zhì)折疊的研究者M(jìn)ohammed AlQuraishi撰文探討了其所在領(lǐng)域的最新進(jìn)展：比研究人員更準(zhǔn)確地預(yù)測出蛋白質(zhì)折疊的機(jī)器學(xué)習(xí)模型的建立。同時(shí)，AlQuraishi為研究結(jié)果失去理論支持而感到惋惜。

“與這篇論文相比，概念性論文或者提出新理論假設(shè)的論文的聲望要低得多”，他在接受采訪時(shí)說到。在機(jī)器學(xué)習(xí)使得發(fā)現(xiàn)速度加快的時(shí)代面前，那些理論家們顯得那么無關(guān)緊要，甚至是多余的存在。與創(chuàng)建機(jī)器學(xué)習(xí)模型方面的專業(yè)知識相比，對特定領(lǐng)域的知識的重視程度自然也會(huì)降低。

金融債務(wù)將控制權(quán)從借方轉(zhuǎn)移到了貸方，從未來轉(zhuǎn)移到了過去。而不斷增加的智力債務(wù)也可能轉(zhuǎn)移控制權(quán)。一個(gè)充斥著不經(jīng)理解的知識的世界會(huì)變成一個(gè)沒有明顯因果聯(lián)系的世界，而我們只能依賴于我們的數(shù)據(jù)管家來告訴我們該做什么，什么時(shí)候做。例如，一個(gè)大學(xué)的招生委員會(huì)可能會(huì)將辛苦和不確定的人員篩選交給機(jī)器學(xué)習(xí)模型。這種方式可能會(huì)優(yōu)化新生群體，不僅是為了學(xué)業(yè)上的成功，還可以帶來和諧的人際關(guān)系以及校友的慷慨捐贈(zèng)。再者，我們理解這個(gè)世界的唯一方法可能就是采用我們的AI系統(tǒng)，通過神經(jīng)網(wǎng)絡(luò)來微調(diào)我們的社交媒體資料，這樣我們就能夠完全“融入”社會(huì)。

也許所有的這些技術(shù)都是可行的，但反過來，也會(huì)帶來相應(yīng)的問題。時(shí)下對人工智能的批評大多集中在它可能出錯(cuò)的方式上：它會(huì)產(chǎn)生或復(fù)制偏見；它會(huì)出錯(cuò)；它可能會(huì)被用在不當(dāng)?shù)牡胤健?/p>

然而，我們也應(yīng)該擔(dān)心，當(dāng)人工智能看起來十分正確時(shí)，我們又將面臨什么問題。