關(guān)鍵信息：Deepmind公司的計算機科學家已經(jīng)創(chuàng)造出了一種人工智能—ToMnet，它可以探測其他計算機的“思想”和“信仰”，并預測它們的下一步行為，這是機器之間互相協(xié)作的開始。研究人員本月在斯德哥爾摩舉行的國際機器學習會議上報告上宣布了這一消息。

關(guān)鍵數(shù)據(jù)：ToMnet由三個神經(jīng)網(wǎng)絡(luò)組成。

關(guān)鍵意義：理解他人的想法和信仰，是人類和其他動物心智發(fā)展的關(guān)鍵階段，機器人能做到這一步，是不是離人工智能威脅又近了一步？

與Siri或天貓精靈進行過互動的人都知道，數(shù)字助理無法從根本吸引人，因為它們不懂人的思想、需求，無法像真正的人類朋友一樣對話，它們需要心理學家所謂的“心智理論”，即對他人信仰和欲望方面的認識。

現(xiàn)在，谷歌旗下Deepmind公司的計算機科學家已經(jīng)創(chuàng)造出了一種人工智能，它可以探測其他計算機的“思想”，并預測它們的下一步行為。這也是機器之間的協(xié)同合作的第一步。

加州大學伯克利分校的發(fā)展心理學家Gopnik說：“心智理論顯然是一種至關(guān)重要的能力。”因為在4歲時，人類的孩子就會明白，另一個人的信仰可能會偏離現(xiàn)實，而這些信念可以用來預測一個人的未來行為。今天的一些程序可以識別出“快樂”或“憤怒”的面部表情，這也是一種與心智理論相關(guān)的技能，但它們極少能理解人類的情緒或者動機。

Deepmind新項目始于一項讓人類理解計算機的努力。人工智能所使用的許多算法并不是由程序員編寫的，而是依賴于依次解決問題時的機器學習，但計算機生成的解決方案通常是“黑盒子”，算法過于復雜，人類的洞察力看不透。

因此，DeepMind的研究科學家Neil Rabinowitz和他的同事們創(chuàng)造了一種名為“ToMnet”的思維AI理論，看它是否能通過觀察其他AI知道后者是如何工作的。

ToMnet由三個神經(jīng)網(wǎng)絡(luò)組成，每個神經(jīng)網(wǎng)絡(luò)由小的計算元素和連接組成，它們從經(jīng)驗中學習，類似于人類的大腦。第一個網(wǎng)絡(luò)根據(jù)AI們過去的行為學習它們的傾向性；第二個網(wǎng)絡(luò)是理解AI們當前的“信仰”；第三個則從另外兩個網(wǎng)絡(luò)中獲取輸出，根據(jù)具體情況預測人工智能的下一步動作。

在試驗中，被觀察的AI是一個簡單的角色，它在一個虛擬的房間里收集彩色的盒子，ToMnet從上方觀察了房間，發(fā)現(xiàn)有三種角色：一個看不到周圍的墻壁，一個不記得最近的走過步驟，還有一個既看的到周圍的墻壁也記得住最近的步驟。

“失明”的角色傾向于沿著墻走，“健忘癥患者”會移動到最近的物體上，第三個角色形則成了子目標：以特定的順序戰(zhàn)略性地抓取物體以獲得更多的點數(shù)。

在經(jīng)過一些訓練后，ToMnet不僅能在幾個步驟之后識別出一個角色的種類，而且還能正確預測它未來的行為，研究人員本月在斯德哥爾摩舉行的國際機器學習會議上報告上宣布了這一消息。

最后一項測試顯示，ToMnet甚至可以理解一個人是否持有錯誤的信念，這是人類和其他動物心智發(fā)展理論的關(guān)鍵階段。

在這個測試中，一種類型的角色被設(shè)定為近視眼；當電腦在游戲進行到一半改變了他們視力范圍之外的景象時，ToMnet準確地預測角色會比視力好的角色更能堅持原來的路線，因為它們對新環(huán)境的適應(yīng)能力較差。這項研究是神經(jīng)網(wǎng)絡(luò)驚人的學習技能的例子，但這仍然不能使它們與人類兒童處于同一水平。

Josh Tenenbaum是麻省理工學院的心理學家和計算機科學家，他也研究了心智能力理論的計算模型。他說，與他的團隊的系統(tǒng)相比，ToMnet更有效地注入了信念。但她補充說，ToMnet的理解與它被訓練的環(huán)境緊密相關(guān)，這使得它在全新的環(huán)境中的預測能力變得越來越弱，它系統(tǒng)的所達到的功能可能連小孩子都能做到。

Gopnik指出，在未來結(jié)合其他方法，可能會讓這個領(lǐng)域出現(xiàn)“非常有趣的方向”，計算機正在發(fā)展的那種社會能力不僅能改善與人類的合作，或許還能改善欺騙行為。