大型語言模型(LLMS)以其產(chǎn)生連貫的文本，翻譯語言甚至進行對話的能力而破壞了AI。但是，盡管具有令人印象深刻的能力，但在推理和理解復(fù)雜環(huán)境方面，LLM仍然面臨重大挑戰(zhàn)。

這些模型雖然善于識別和復(fù)制大量培訓(xùn)文本的模式，但經(jīng)常在需要真正理解和邏輯推理的任務(wù)上掙扎。這可能會導(dǎo)致諸如長時間對話中的不一致之處，連接不同信息的錯誤以及在維持有關(guān)擴展敘述的上下文時遇到的困難。了解這些推理問題對于改善LLM的未來發(fā)展和應(yīng)用至關(guān)重要。

關(guān)鍵推理挑戰(zhàn)

缺乏真正的理解

語言模型通過根據(jù)他們在培訓(xùn)期間從廣泛的數(shù)據(jù)中學(xué)到的模式來預(yù)測下一個關(guān)鍵字來運行。但是，他們?nèi)狈Νh(huán)境和討論的概念的深刻，內(nèi)在的理解。結(jié)果，他們可能會發(fā)現(xiàn)需要真正理解挑戰(zhàn)的復(fù)雜推理任務(wù)。

上下文限制

盡管現(xiàn)代語言模型在掌握短篇小說方面表現(xiàn)出色，但它們通常很難在擴展的對話或更大的文本段上保持連貫性和背景。當(dāng)模型必須從對話或文本的各個部分鏈接信息時，這可能會導(dǎo)致推理錯誤。在漫長的討論或復(fù)雜的敘述中，該模型可能會忘記或誤解早期的細節(jié)，從而導(dǎo)致矛盾或不準(zhǔn)確的結(jié)論。

無法執(zhí)行計劃

許多推理任務(wù)涉及邏輯的多個步驟或隨著時間的推移跟蹤許多事實的能力。當(dāng)前的語言模型通常在需要長期連貫性或多步邏輯推論的任務(wù)上掙扎。他們可能難以解決需要多個邏輯操作的難題。

回答無法解決的問題

回答無法解決的問題是LLM的一個關(guān)鍵挑戰(zhàn)，并突出了其推理能力的局限性。當(dāng)提出一個無法解決的問題時，例如悖論，沒有明確答案的問題，或與已建立的事實相矛盾的問題時，LLM可能會難以提供有意義或連貫的回答。該模型不能意識到問題的固有不可能，而是嘗試根據(jù)已經(jīng)訓(xùn)練的數(shù)據(jù)中的模式提供解決方案，這可能會導(dǎo)致誤導(dǎo)或錯誤的答案。

國家空間計算復(fù)雜性

一些問題需要探索從初始狀態(tài)到目標(biāo)狀態(tài)的所有可能狀態(tài)。例如，旅行計劃可能涉及許多選擇，并且有了其他限制，例如預(yù)算和旅行方式，搜索狀態(tài)空間可以接近多項式爆炸。語言模型計算和響應(yīng)所有這些可能性是不切實際的。取而代之的是，它將依靠它所學(xué)會的啟發(fā)式方法提供可能是不正確的可行解決方案。

不正確推理的真實示例

讓我們提出一個問題：

純文本

1

“一個裝滿了8個水的水罐，還有兩個空尺寸5和5的空壺。

2

求解器必須倒入水，以使第一壺和第二壺都包含4個單元，而第三壺則是空的。

3

當(dāng)源壺為空或目的地水罐已滿，以先到者為準(zhǔn)時，每個步驟將水從源果罐倒入目的地水罐停止。

從下面的回答中，我們可以看到，今天存在的LLM給出了錯誤的答案。這個問題實際上是無法解決的，但是所有LLM都試圖給出一個答案，就好像他們找到了解決方案一樣。

Chatgpt的回應(yīng)

Google的回應(yīng)

Bing Copilot的回應(yīng)

LLMS背誦與推理

但是，如果您要將問題更改為“兩個空的尺寸為5和4”，而不是“兩個空的尺寸5和5”，那么所有LLM都會正確回答記憶的問題。

研究人員建議什么來幫助推理?

一些研究人員專注于改進數(shù)據(jù)集并使用思想鏈方法，而另一些研究人員則建議使用外部驗證者和求解器。這些技術(shù)中的每一個旨在通過解決問題的不同維度來帶來改進。

改進數(shù)據(jù)集

一些研究人員建議提高用于培訓(xùn)語言模型的數(shù)據(jù)的質(zhì)量和多樣性。通過策劃更全面和多樣化的數(shù)據(jù)集，模型可以從更廣泛的上下文和示例中學(xué)習(xí)。這種方法旨在提高模型處理各種情況的能力。

經(jīng)過思考鏈

該技術(shù)涉及培訓(xùn)模型遵循結(jié)構(gòu)化的推理過程，類似于人類思維。通過鼓勵模型明確地生成中間的推理步驟，研究人員希望提高模型處理復(fù)雜的推理任務(wù)并提供更準(zhǔn)確，邏輯上一致的響應(yīng)的能力。

使用外部驗證器

為了解決產(chǎn)生錯誤或誤導(dǎo)性信息的模型問題，一些研究人員提出了整合外部驗證機制。這些驗證者可以針對受信任的來源進行跨檢查模型的輸出，或者在向用戶提交信息之前，使用其他算法來驗證信息的準(zhǔn)確性。這有助于確保生成的內(nèi)容可靠并且實際上是正確的。

使用求解器

另一種方法涉及合并旨在處理特定類型推理任務(wù)的專業(yè)求解器。這些求解器可用于執(zhí)行計算，求解方程或過程邏輯語句，以補充語言模型的功能。通過將這些任務(wù)委派給求解器，總體系統(tǒng)可以實現(xiàn)更準(zhǔn)確和可靠的結(jié)果。

結(jié)論

盡管在文本生成和理解等領(lǐng)域取得了令人印象深刻的進步，但當(dāng)前的語言模型由于無法完全掌握含義，保持一致的環(huán)境并僅依靠大型但潛在有缺陷的培訓(xùn)數(shù)據(jù)提取的模式而在復(fù)雜的多層推理任務(wù)中掙扎，因此它們的多層推理任務(wù)掙扎。為了解決這些限制，未來的模型可能需要更復(fù)雜的體系結(jié)構(gòu)，以及正在進行的常識推理研究。