李飛飛團隊最新研究：神經任務編程NTP，讓機器人具有強大泛化能力

摘要： 在本論文中，我們提出了一種名為神經任務編程（NTP）的新型機器人學習框架，該方法可以通過較少的示范和神經程序引導進行學習。NTP 可將輸入的規范性任務（例如任務的視頻演示）遞歸地將其分解成更精細的子任務規范， 這些規范被傳遞到分級神經程序，通過可調用的底層子程序是與環境進行交互。同時，我們在三個機器人操縱任務中驗證了我們的方法，在試驗中，NTP 展示了在顯示分層結構和組合結構的順序任務的強泛化能力化。 實驗結果表明，NTP 在學習長度不定、可變拓撲和不斷變化的未知任務的學習和拓展有較好的效果。

背景

自越來越強調“人機協作”的今天，機器人通常在某些特定環境中與人進行長時間的交互，如物體分類、裝配、和清理等。但是以往的機器人通常需要在固定的場景下才能與人交互，如何讓機器人能適應復雜的操作任務、新的任務目標和周圍環境，則是機器人技術中的一個重大挑戰。

設想一個倉庫中的物體分類任務，這通常包括分類、檢索、打包等具體任務，每個任務又可以分解為若干個動作，如抓取、移動、放下等，這些動作構成了如抓取和放置等子任務，如果在考慮到不同的對象、排序、子任務的排列組合，當中的變化將會非常復雜，例如，將四類物品分類放到四個容器中，這當中的組合會有 256 中之多。本文中，我們希望解決復雜任務規劃的兩個主要挑戰，即a）從新的概念化到新的任務目標的學習策略，以及b）與長期環境交互的基本原生代碼模塊的組合。

神經任務編程（NTP）原理

NTP 的關鍵基本思想在是跨任務學習和與共享域中的可重用表示。NTP 對一個描述任務過程和最終目標時間序列的任務規范進行解釋，并將其分層策略實例轉化為一個神經程序。NTP 從輸入規范中解碼生成任務目標，并將其分解為子任務并與周邊環境進行交互和反饋直至搭成目標，每個程序調用環境觀察和任務規范（輸入），并輸出下一個子程序和相應的子任務規范。

如上圖所示，在給定輸入、任務規范和當前環境的情況下，NTP 模型預測需要運行什么樣的子程序，并作為下一級子任務的輸入，并判斷當前程序是否結束，否則將繼續循環執行任務 。

測試

該研究團隊通過對模擬和實際機器人實驗中的單臂操作任務模擬對 NTP 進行評估。任務包括：堆疊方塊，目標分類和清理桌子。

該研究的兩個目標：I. 在同一個域中學習多項任務；以及 II. 通過單一例子形成在測試中的泛化能力。

如圖所示，機器手可從模擬的 Demo 環境（包括圖像、視頻、VR 輸入）中進行學習并完成積木的堆疊；

NTP 編程：通過分級的任務條件輸出策略歸納程序，調用 Robot API 進行操作。

上圖展示了在堆疊方塊任務中 NTP 的樣本執行軌跡圖。任務是按指定要求堆疊字母塊，頂層程序作為輸入參與整個演示，預測下一個運行的子程序，并為特定輸入作為指定任務的一部分，底層 API 調用機器人作出相應的動作（如 Move_to (Blue)、Grasp (Blue)等）。當程序結束符（EOP）為 True，當前程序停止并返回其調用程序。

如果環境發生變化（如人為破壞已完成的任務），機器人會探測到環境的變化并重復任務。

任務結構的變化包括：改變完成條件（任務語義），可變子任務排列（任務拓撲）和更大的任務量（任務的長度）。隨著任務數量的增加，NTP 可以為新的任務師范及目標生成更好的結果。

完整演示視頻見：https://v.qq.com/x/page/k0559x1cyys.html?start=37

類似的研究還有雷鋒網之前介紹過的 BAIR《One-Shot Visual Imitation Learning via Meta-Learning》的論文，都是通過一次性學習形成的泛化能力讓機器人快速掌握新技能。相比之下，BAIR 的論文更偏于算法的迭代改進，而 Visual Lab 的研究則從任務結構出發提出了一種新的學習框架。雷鋒網認為，雖然李飛飛團隊之前的研究更多是在計算機視覺領域，但正是如此，才有可能從機器人領域研究者習慣的視角外去思考問題，這篇論文提出的新思路也值得機器人研究者注意。

來自: 雷鋒網