Sundae Robotics 08: Zręczna Manipulacja, Symulacja i Precyzyjna Montaż

🤖🍨 Weź sundae i dołącz do Sundae Robotics, prywatnej, zaproszeniowej serii niedzielnej, która gromadzi badaczy robotyki, założycieli i twórców pracujących na pograniczu fizycznej inteligencji. Sundae Robotics 07 Zręczna Manipulacja, Symulacja i Uczenie Sim-to-Real Prezentacja główna: Skalowanie zręcznej manipulacji za pomocą symulacji — od ogólnego użycia narzędzi do precyzyjnego montażu. Skalowanie zręcznej manipulacji za pomocą symulacji: od ogólnego użycia narzędzi do precyzyjnego montażu. Wykład: Tyler Lum, student piątego roku doktoratu z informatyki na Uniwersytecie Stanforda · Laboratorium Ruchu · Laboratorium Interaktywnej Percepcji i Uczenia Robotów. Zręczne robotyczne ręce mają potencjał do wykonywania szerokiego zakresu zadań manipulacyjnych, ale uczenie polityk, które są zarówno ogólne, jak i precyzyjne, pozostaje wyzwaniem. W tym wykładzie Tyler zaprezentuje dwa projekty badające, jak uczenie się z wykorzystaniem wzmocnienia w symulacji może pomóc w pokonywaniu tej luki. Najpierw Tyler omówi SimToolReal, który uczy polityk zręcznego użycia narzędzi w symulacji, które uogólniają na niewidoczne narzędzia i zadania oraz przenoszą zero-shot do świata rzeczywistego. Następnie przedstawi Play2Perfect, który bada, jak szerokie, agnostyczne w stosunku do zadań pretraining na zabawę może dostarczyć wielokrotnego użytku umiejętności manipulacyjnych, które są efektywnie dostosowywane do precyzyjnego, bogatego w kontakt montażu. Te projekty badają, w jaki sposób symulacja może być wykorzystana do nauki szeroko zdolnych zręcznych zachowań, jednocześnie umożliwiając precyzję i specjalizację wymaganą do trudnych zadań w świecie rzeczywistym. Tyler Lum jest studentem piątego roku doktoratu z informatyki na Uniwersytecie Stanforda, badającym sztuczną inteligencję i robotykę. Jest doradzany przez prof. C. Karen Liu w Laboratorium Ruchu (TML) i prof. Jeannette Bohg w Laboratorium Interaktywnej Percepcji i Uczenia Robotów (IPRL), i jest wspierany przez stypendium podyplomowe NSERC (PGS-D). Badania Tylera koncentrują się na budowaniu robotów, które mogą poruszać się i działać w dynamicznych środowiskach rzeczywistych w elegancki i efektywny sposób. Opracowuje metody integracji percepcji i kontroli opartej na uczeniu, oraz bada indukcyjne uprzedzenia, które mogą poprawić efektywność i niezawodność tych systemów. Jego ostatnie prace koncentrują się głównie na zręcznej manipulacji i uczeniu robotów Sim-to-Real. Jego projekty obejmują Play2Perfect, który bada zręczną zabawę pretrainingu do precyzyjnego montażu; SimToolReal, który opracowuje polityki skoncentrowane na obiektach dla zręcznej manipulacji narzędziami w zerowym przypadku; i Human2Sim2Robot, który bada uczenie się z wzmocnieniem Sim-to-Real na podstawie pojedynczej demonstracji od człowieka. Przed rozpoczęciem doktoratu, Tyler studiował inżynierię fizyczną na Uniwersytecie Kolumbii Brytyjskiej (UBC), gdzie ukończył jako stypendysta Wesbrook. Pracował z prof. Michielem van de Panne nad uczeniem się z wzmocnieniem i planowaniem ruchu dla robotów czworonogich oraz z prof. Purangiem Abolmaesumim nad uczeniem głębokim w analizie obrazów medycznych. Tyler pracował również jako stażysta badawczy w dziedzinie robotyki w RAI oraz jako stażysta ds. B+R w dziedzinie robotyki w NVIDIA, gdzie pracował nad uczeniem się z wzmocnieniem w kontekście humanoidalnej lokomocji-manipulacji i zręcznej kontroli robotów. Jego szersze zainteresowania badawcze obejmują inteligentne roboty, eleganckie ruchy, interaktywną percepcję, zręczną bimanualną manipulację, rozumowanie w warunkach niepewności, planowanie długoterminowe, kreatywne rozwiązywanie problemów, rozumowanie zdrowego rozsądku oraz strategie eksploracji. Długoterminowym celem Tylera jest stworzenie robotów, które mogą rozumować w warunkach niepewności, ciągle uczyć się z otoczenia, dostosowywać się do nowych wyzwań i stać się wystarczająco niezawodne, aby tworzyć ogromną wartość dla ludzi w ich codziennym życiu. Tematy: • Skalowanie zręcznej manipulacji z wykorzystaniem uczenia się z wzmocnieniem w symulacji na dużą skalę. • Nauka polityk, które łączą szeroką generalizację z precyzyjną kontrolą. • Zręczne użycie narzędzi w odniesieniu do niewidocznych narzędzi i zadań. • SimToolReal i zero-shot transfer z symulacji do rzeczywistego świata. • Polityki skoncentrowane na obiektach dla zręcznej manipulacji. • Uczenie z wzmocnieniem Sim-to-Real dla rąk robotów z wieloma palcami. • Szeroki, agnostyczny wobec zadań pretraining na zabawę. • Nauka wielokrotnego użytku umiejętności manipulacyjnych poprzez interakcję w symulacji. • Play2Perfect i efektywne, dalsze dostosowywanie. • Precyzyjny, bogaty w kontakt montaż robotów. • Łączenie manipulacji ogólnego przeznaczenia z precyzyjnym specjalizowaniem się. • Percepcja i kontrola oparta na uczeniu dla dynamicznych środowisk rzeczywistych. • Indukcyjne przesłanki dla bardziej efektywnego i niezawodnego uczenia robotów. • Skalowanie nauki robotów poprzez doświadczenie symulacyjne. • Budowanie zręcznych systemów, które są zarówno ogólne, jak i precyzyjne. Otwarta dyskusja + Q&A: • Jak polityki zręczne mogą pozostać ogólne w odniesieniu do narzędzi i zadań, nie rezygnując z precyzji? • Jakie aspekty zręcznej manipulacji są najtrudniejsze do przeniesienia z symulacji do rzeczywistego świata? • Ile różnorodności symulacji jest wymagane do solidnego transferu zero-shot? • Jakie reprezentacje lub indukcyjne uprzedzenia umożliwiają generalizację na niewidocznych narzędziach? • Czy jedna polityka może nauczyć użytecznych pojęć chwytania, użycia narzędzi i interakcji bogatych w kontakt? • Czego nauczy robot szeroka manipulacja na zabawę, czego nie przynoszą demonstracje specyficzne dla zadań? • Jak należy dostosować szerokie umiejętności manipulacyjne do zadań wymagających niezwykle precyzyjnej kontroli? • Co sprawia, że montaż bogaty w kontakt jest zasadniczo różny od ogólnej manipulacji obiektami? • Ile danych z rzeczywistego świata jest nadal potrzebnych po dużoskalowym pretrainingu w symulacji? • Czy pretraining na zabawie może stać się ogólną podstawą dla zręcznej manipulacji? • Kiedy uczenie się z wzmocnieniem w symulacji przewyższa uczenie się poprzez naśladowanie z rzeczywistych demonstracji? • Jak powinny być projektowane środowiska symulacyjne, aby sprzyjały przenośnym, a nie specyficznym dla symulatora zachowaniom? • Czy ta sama uprzedzająca polityka może wspierać zarówno otwarte użycie narzędzi, jak i wysoko ograniczony montaż? • Jak należy integrować percepcję i kontrolę opartą na uczeniu dla niezawodnej zręcznej manipulacji? • Co by było potrzebne, aby skalować symulowane uczenie zręczne w kierunku naprawdę ogólnych rąk robotów?