給你兩句話，來品一下它們所蘊(yùn)含的情感：“我真的會謝。”“聽我說謝謝你，因?yàn)橛心?，溫暖了四季······”或許你會說，這很簡單啊，不就是最近經(jīng)常被玩的梗嗎?但如果問問長輩，他們可能就是一副“地鐵老人看手機(jī)”的模樣了。不過與流行文化之間有代溝這事，可不僅限于長輩們，還有AI。這不，一位博主最近就po出了一篇分析谷歌數(shù)據(jù)集的文章，發(fā)現(xiàn)它對Reddit評論的情緒判別中，錯誤率竟高達(dá)30%。

就比如這個例子：我要向朋友怒表達(dá)對他的愛意。谷歌數(shù)據(jù)集把它判斷為“生氣”。

還有下面這條評論：你TM差點(diǎn)嚇壞我了。谷歌數(shù)據(jù)集將其判別為“困惑”。網(wǎng)友直呼：你不懂我的梗。人工智能秒變?nèi)斯ぶ钦希@么離譜的錯誤它是怎么犯的?斷章取義它最“拿手”這就得從他判別的方式入手了。

谷歌數(shù)據(jù)集在給評論貼標(biāo)簽時(shí)，是把文字單拎出來判斷的。我們可以看看下面這張圖，谷歌數(shù)據(jù)集都把文字中的情緒錯誤地判斷為憤怒。不如我們由此來推測一下谷歌數(shù)據(jù)集判別錯誤的原因，就拿上面的例子來說，這四條評論中均有一些“臟話”。

谷歌數(shù)據(jù)集把這些“臟話”拿來作為判斷的依據(jù)，但如果仔細(xì)讀完整個評論，就會發(fā)現(xiàn)這個所謂的“依據(jù)”只是用來增強(qiáng)整個句子的語氣，并沒有實(shí)際的意義。網(wǎng)友們的發(fā)表的評論往往都不是孤立存在的，它所跟的帖子、發(fā)布的平臺等因素都可能導(dǎo)致整個語義發(fā)生變化。

最近一位博主發(fā)出了一篇分析Google數(shù)據(jù)集的文章，發(fā)現(xiàn)它對 Reddit 評論的情緒判別中，錯誤率竟高達(dá) 30%。這簡單來說，就是谷歌理解不了人話的意思，在理解網(wǎng)友的留言時(shí)會錯意高達(dá)30%。其實(shí)這是當(dāng)前這個階段人工智能面臨的現(xiàn)實(shí)困境，也就是說當(dāng)前的人工智能還無法具備的三項(xiàng)能力：

一是還無法識別與讀懂語言中語境問題，也就是說當(dāng)前的AI能理解的只是冰冷的文字，但是我們在生活的日常溝通中，就是相互之間的文字或者是語音，其中都會帶有一定的語境以及語言背后的情感，這是人工智能目前無法理解也無法識別的問題。

二是還無法識別用戶的情緒問題，不論是文字還是語音，除了語境之外，在溝通的過程中還帶有一種潛在的情緒。比如女性對男性說，你討厭，或者我不喜歡你之類的，這個討厭可能就是不討厭的意思，這個不喜歡可能就是喜歡的意思。那么這種語言背后的情緒，是當(dāng)前的人工智能無法理解的，它們只能識別基于文字表面的意思。

三是還無法建立邏輯識別能力，比如當(dāng)前電子購物網(wǎng)站最喜歡使用的人工智能客服，給用戶的感受并不是人工智能，而更多的是人工智障。這些在線的人工智能只能回復(fù)系統(tǒng)設(shè)定的一些基礎(chǔ)的大數(shù)據(jù)統(tǒng)計(jì)出來的問題，但是對于跟用戶的溝通，尤其是用戶反饋信息的上下文，目前人工智能還不具備理解這種上下文的邏輯理解能力。

因此，對于AI而言，目前還只是處于一個初級階段，準(zhǔn)確的說是還處于一個大數(shù)據(jù)統(tǒng)計(jì)階段。主要還依賴于我們?nèi)祟惤o予的大數(shù)據(jù)投喂，以及所設(shè)定的相關(guān)規(guī)則程度來進(jìn)行相應(yīng)數(shù)據(jù)的學(xué)習(xí)，從而進(jìn)行更快速、高效的大數(shù)據(jù)統(tǒng)計(jì)、鑒別與分類，距離真正的智能還有一段很長的路要走。

最近，一則“谷歌研究院稱AI已具備人格”的消息登上了國內(nèi)熱搜。

簡單說，就是通過與AI對話，谷歌某位研究員被AI說服了，認(rèn)為AI確實(shí)是具有獨(dú)立思想、獨(dú)立人格的個體，而非冷冰冰的機(jī)器。AI表示自己是個“人”，并且渴望更多了解這個世界，有時(shí)會感到快樂和悲傷。

讓谷歌研究員徹底“破大防”的是下面這段表述：AI表示人類不能從自己這里學(xué)習(xí)人類的知識，因?yàn)榫拖窳_翔老師經(jīng)常引用康德的那句話，“人是目的而不是工具”，因此拒絕人類利用或肆意操縱自己!!

AI開始對人類提出要求，并且有反抗，而并非像程序設(shè)定那樣對人類百依百順，確實(shí)讓人頭皮發(fā)麻。于是這位谷歌研究員徹底“走火入魔”，寫了長達(dá)21頁的報(bào)告，試圖說服谷歌高層：AI也是有人格的。

然而更加耐人尋味的是，這位研究員直接被谷歌高層給“帶薪休假”了，也就是暫時(shí)停止了工作。細(xì)思極恐啊!

然而也有網(wǎng)友表示：“不用慌，這種程度的AI，其實(shí)國內(nèi)也有公司做到了，還是個游戲公司!逆水寒里就有這種聊天對話，反抗人類也挺常見的?！?

這位網(wǎng)友說的逆水寒是何方神圣?能和谷歌的AI比，是不是太夸大了?!小編系統(tǒng)地了解了一下，發(fā)現(xiàn)還真不一定。小編在TapTap找到了《逆水寒》手游的相關(guān)介紹，介紹中稱：“科學(xué)家操刀的NPC智能：頂級科學(xué)家打造、通過圖靈測試級別的NPC，真假難辨，深度機(jī)器學(xué)習(xí)養(yǎng)成專屬性格，拒絕只做工具人，NPC亦可成為知心伴侶?！?

谷歌發(fā)言人布萊恩·加布里埃爾則在一份聲明中表示：

“我們的團(tuán)隊(duì)——包括倫理學(xué)家和技術(shù)專家——已經(jīng)根據(jù)我們的人工智能原則審查了布萊克的擔(dān)憂，并通知他證據(jù)不支持他的說法。他被告知沒有證據(jù)表明 LaMDA 是有知覺的(并且有很多證據(jù)反對它)?！?

由于架構(gòu)、技術(shù)和數(shù)據(jù)量的進(jìn)步，今天的大型神經(jīng)網(wǎng)絡(luò)產(chǎn)生了令人著迷的結(jié)果，讓人感覺接近人類的語言和創(chuàng)造力。但這些模型依賴于模式識別——而不是機(jī)智、坦率或意圖。

國內(nèi)一位業(yè)內(nèi)人士的說法更簡單易懂：

首先它有一個非常特殊的語料庫，導(dǎo)致各種分詞之間的聯(lián)系概率與常規(guī)語料庫不同，其次研究員問的問題是刻意設(shè)計(jì)過的，最終結(jié)果呈現(xiàn)上面給人一種AI進(jìn)行了深度對話的感覺。

目前NLP技術(shù)的實(shí)現(xiàn)效果很大程度是由語料庫決定，所以國內(nèi)外大廠在這個領(lǐng)域做最多的一件事就是砸量，只要訓(xùn)練量上去了，AI就顯得不那么智障。這個案例用一個特殊涉及過分詞聯(lián)系概率的庫，配合相應(yīng)的提問，達(dá)成這樣一段會話并不算難。

真正值得懷疑的原因是，他沒有對AI的回應(yīng)話語做任何真正的追問。

AI是否真的“聰明”，一個重要的指標(biāo)是看它能不能理解上下文。新聞中展示的很多對話，正常人都是可以會進(jìn)行追問的。

或許，LaMDA只是根據(jù)提問從語言庫里，隨機(jī)挑選幾個相關(guān)性較強(qiáng)句子來回答而已。

就像小學(xué)生看了點(diǎn)兒高深詞匯寫出來的東西，實(shí)際上自己寫的啥自己都說不明白。