近日，Google的最新研究可能會使這種學(xué)習(xí)過程變得更加簡單。

谷歌，加州大學(xué)伯克利分校和佐治亞理工學(xué)院的研究人員聯(lián)合發(fā)表了一篇論文，構(gòu)建了一個通過AI自學(xué)走路的四足機(jī)器人，并將它取名為“RainbowDash”。

RainbowDash只需要幾個小時就可以完全獨立的向前走和向后走，以及左右轉(zhuǎn)彎。

研究人員在學(xué)習(xí)如何在三種不同地形上行走的任務(wù)上測試了這個系統(tǒng)：

平坦的地面，柔軟的床墊和帶有縫隙的門墊。

根據(jù)論文中的測試數(shù)據(jù)顯示，RainbowDash在堅硬平坦的地面上學(xué)習(xí)走路需要1.5個小時，在由記憶海綿材質(zhì)的床墊上大約需要5.5個小時，在鏤空的地毯上大約需要4.5個小時。

總結(jié)起來：RainbowDash平均只需要大約3.5小時來學(xué)習(xí)向前、向后和左右轉(zhuǎn)彎等運動。

而根據(jù)世界紀(jì)錄，嬰兒從爬行到學(xué)會行走的最快速度是6個月。

具體來說，RainbowDash結(jié)合了深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)兩種不同類型的AI技術(shù)。通過深度學(xué)習(xí)，系統(tǒng)可以處理和評估來自其身處環(huán)境的原始輸入數(shù)據(jù)；通過強(qiáng)化學(xué)習(xí)，算法可以反復(fù)試驗，以學(xué)習(xí)如何執(zhí)行任務(wù)，并根據(jù)完成的程度來獲得獎勵和懲罰。

也就是說，通過上述的這種方式，機(jī)器人便可以在其不了解環(huán)境中實現(xiàn)自動控制策略。

在以往的此類實驗中，研究人員最初都會讓機(jī)器人通過模擬來學(xué)習(xí)真實世界的環(huán)境。在仿真環(huán)境中，機(jī)器人的虛擬體首先與虛擬環(huán)境進(jìn)行交互，然后，算法接收這些虛擬數(shù)據(jù)，直到系統(tǒng)有能力應(yīng)對這些數(shù)據(jù)，一個搭載系統(tǒng)的物理形態(tài)的機(jī)器人才會被放置到現(xiàn)實環(huán)境中進(jìn)行實驗。

這種方法有助于避免在試錯過程中對機(jī)器人及其周圍環(huán)境造成損害。

不過，環(huán)境雖然容易建模，但通常耗時長，而且現(xiàn)實環(huán)境中充滿了各種意想不到的情況，因此，在模擬環(huán)境中訓(xùn)練機(jī)器人的意義有限。畢竟，此類研究的最終目標(biāo)恰恰是讓機(jī)器人為現(xiàn)實世界的場景做好準(zhǔn)備。

Google和佐治亞理工學(xué)院以及加州大學(xué)伯克利分校的研究人員則在一開始就在真實環(huán)境中對Rainbow Dash進(jìn)行訓(xùn)練，這樣一來，機(jī)器人不僅能夠很好地適應(yīng)自己所處的環(huán)境，也能夠更好地適應(yīng)相似的環(huán)境。

盡管研究團(tuán)隊將RainbowDash的學(xué)習(xí)能力歸功于它自己，但人為干預(yù)仍在實現(xiàn)該目標(biāo)方面發(fā)揮了重要作用。

例如研究人員必須創(chuàng)建邊界，機(jī)器人可以在該邊界內(nèi)學(xué)習(xí)走路，以防止機(jī)器人離開該區(qū)域。他們還必須設(shè)計特定的算法來防止機(jī)器人摔倒，其中一些算法集中在限制機(jī)器人的運動上。

為了防止諸如墜落損壞之類的事故，通常在數(shù)字環(huán)境中進(jìn)行機(jī)器人強(qiáng)化學(xué)習(xí)，然后再將算法轉(zhuǎn)移到物理機(jī)器人上以保持其安全性。

據(jù)悉，研究人員希望他們的算法能適用于不同種類的機(jī)器人，或適用于多個機(jī)器人在同一環(huán)境中同時進(jìn)行學(xué)習(xí)。研究人員相信，破解機(jī)器人的運動能力將是解鎖更多實用機(jī)器人的關(guān)鍵。

最后放上論文下載地址：https://arxiv.org/pdf/2002.08550.pdf

-END-