Sundae Robotics 08: Manipulación Dexterosa, Simulación y Ensamblaje Preciso

🤖🍨 Toma un sundae y únete a Sundae Robotics, una serie privada y solo por invitación que reúne a investigadores, fundadores y constructores de robótica que trabajan en la frontera de la inteligencia física. Sundae Robotics 07 Manipulación Dexterosa, Simulación y Aprendizaje Sim-a-Real Charla Destacada: Escalando la Manipulación Dexterosa con Simulación: Del Uso General de Herramientas al Ensamblaje Preciso Escalando la Manipulación Dexterosa con Simulación: Del Uso General de Herramientas al Ensamblaje Preciso Conferencia Principal: Tyler Lum Estudiante de Doctorado en Ciencias de la Computación, Universidad de Stanford · El Laboratorio de Movimiento · Laboratorio de Percepción Interactiva y Aprendizaje de Robots Las manos robóticas dexterosas tienen el potencial de realizar una amplia gama de tareas de manipulación, pero aprender políticas que sean tanto generales como precisas sigue siendo un desafío. En esta charla, Tyler presentará dos proyectos que exploran cómo el aprendizaje de refuerzo a gran escala en simulación puede ayudar a cerrar esta brecha. Primero, Tyler discutirá SimToolReal, que aprende políticas de uso de herramientas dexterosas en simulación que se generalizan a través de herramientas y tareas no vistas y se transfieren a cero disparos al mundo real. Luego presentará Play2Perfect, que estudia cómo un preentrenamiento de juego amplio y agnóstico a tareas puede proporcionar habilidades de manipulación reutilizables que se ajustan eficientemente para un ensamblaje preciso y rico en contacto. Juntos, estos proyectos exploran cómo la simulación puede ser utilizada para aprender comportamientos dexterosos ampliamente capaces mientras se permite la precisión y especialización requeridas para tareas desafiantes en el mundo real. Tyler Lum es un estudiante de doctorado de 5.º año en Ciencias de la Computación en la Universidad de Stanford estudiando inteligencia artificial y robótica. Es asesorado por la Prof. C. Karen Liu en el Laboratorio de Movimiento (TML) y la Prof. Jeannette Bohg en el Laboratorio de Percepción Interactiva y Aprendizaje de Robots (IPRL), y está apoyado por una Beca de Posgrado NSERC (PGS-D). La investigación de Tyler se centra en construir robots que puedan moverse y actuar en entornos dinámicos del mundo real de manera elegante y eficiente. Desarrolla métodos para integrar percepción y control basados en el aprendizaje, y estudia los sesgos inductivos que pueden mejorar la eficiencia y confiabilidad de estos sistemas. Su trabajo reciente se centra en gran medida en la manipulación dexterosa y el aprendizaje de robots sim-a-real. Sus proyectos incluyen Play2Perfect, que estudia el preentrenamiento de juego dexteroso para un ensamblaje preciso; SimToolReal, que desarrolla políticas centradas en objetos para la manipulación dexterosa a cero disparos; y Human2Sim2Robot, que explora el aprendizaje de refuerzo sim-a-real a partir de una sola demostración humana. Antes de su doctorado, Tyler estudió Física de la Ingeniería en la Universidad de Columbia Británica (UBC), donde se graduó como un Estudiante Wesbrook. Trabajó con el Prof. Michiel van de Panne en aprendizaje de refuerzo y planificación de movimiento para robots cuadrúpedos, y con el Prof. Purang Abolmaesumi en aprendizaje profundo para análisis de imágenes médicas. Tyler también ha trabajado como pasante de investigación en robótica en RAI y como pasante de I+D en Robótica en NVIDIA, donde trabajó en aprendizaje de refuerzo para loco-manipulación humanoide y control de robots dexterosos. Sus intereses de investigación más amplios incluyen robots inteligentes, movimiento elegante, percepción interactiva, manipulación bimanual dexterosa, razonamiento a través de la incertidumbre, planificación a largo plazo, resolución creativa de problemas, razonamiento de sentido común y estrategias de exploración. El objetivo a largo plazo de Tyler es crear robots que puedan razonar a través de la incertidumbre, aprender continuamente de sus entornos, adaptarse a nuevos desafíos y volverse lo suficientemente confiables como para crear un valor tremendo para las personas en sus vidas cotidianas. Temas • Escalando la manipulación dexterosa con aprendizaje de refuerzo a gran escala en simulación • Aprendiendo políticas que combinan generalización amplia con control preciso • Uso de herramientas dexterosas a través de herramientas y tareas no vistas • SimToolReal y transferencia a cero disparos de simulación al mundo real • Políticas centradas en objetos para manipulación dexterosa • Aprendizaje de refuerzo sim-a-real para manos robóticas multi-dedos • Preentrenamiento de juego amplio y agnóstico a tareas • Aprendiendo habilidades de manipulación reutilizables a través de interacción simulada • Play2Perfect y ajuste fino eficiente a continuación • Ensamblaje robótico preciso y rico en contacto • Cerrando la brecha entre manipulación de propósito general y precisión especializada • Percepción y control basados en aprendizaje para entornos dinámicos del mundo real • Sesgos inductivos para un aprendizaje de robots más eficiente y confiable • Escalando el aprendizaje de robots a través de experiencia simulada • Construyendo sistemas dexterosos que sean tanto generales como precisos Discusión Abierta + Preguntas y Respuestas • ¿Cómo pueden las políticas dexterosas permanecer generales a través de herramientas y tareas sin sacrificar la precisión? • ¿Qué aspectos de la manipulación dexterosa son más difíciles de transferir de la simulación al mundo real? • ¿Cuánta diversidad de simulación se requiere para una transferencia robusta a cero disparos? • ¿Qué representaciones o sesgos inductivos permiten la generalización a través de herramientas no vistas? • ¿Puede una sola política aprender nociones reutilizables de agarre, uso de herramientas e interacción rica en contacto? • ¿Qué enseña el juego agnóstico a tareas a un robot que las demostraciones específicas de tareas no enseñan? • ¿Cómo deben ajustarse las habilidades de manipulación amplias para tareas que requieren control extremadamente preciso? • ¿Qué hace que el ensamblaje rico en contacto sea fundamentalmente diferente de la manipulación general de objetos? • ¿Cuántos datos del mundo real son todavía necesarios después de un preentrenamiento de simulación a gran escala? • ¿Puede el preentrenamiento de juego convertirse en una base general para la manipulación dexterosa? • ¿Cuándo el aprendizaje de refuerzo en simulación supera al aprendizaje por imitación de demostraciones reales? • ¿Cómo deben diseñarse los entornos de simulación para fomentar comportamientos transferibles en lugar de comportamientos específicos del simulador? • ¿Puede la misma política preentrenada apoyar tanto el uso de herramientas de propósito abierto como el ensamblaje altamente restringido? • ¿Cómo debe integrarse la percepción y el control basados en aprendizaje para una manipulación dexterosa confiable? • ¿Qué se necesitaría para escalar el aprendizaje dexteroso simulado hacia manos robóticas verdaderamente de propósito general?