Группa чтения BRISA 04 - LeWorldModel

Перед нашим официальным запуском осенью мы продолжаем нашу серию предзапусков с очередной группой чтения: садимся с научной работой, правильно её понимаем и задаёмся вопросом, что потребуется, чтобы построить это самостоятельно. Наша четвертая работа - LeWorldModel: стабильная архитектура предсказания с совместным встраиванием от пикселей (Maes et al., 2026), которая спрашивает: Насколько простой может стать модель мира, оставаясь при этом полезной для планирования? Модели мира учатся предсказывать, как окружающая среда может измениться в зависимости от различных действий, что позволяет сравнивать возможные будущие сценарии перед тем, как действовать. LeWorldModel, или LeWM, использует относительно простой подход. Вместо того, чтобы предсказывать будущие изображения пиксель за пикселем, он обучается компактному представлению сцены и предсказывает, как это представление изменяется при выполнении различных действий. Одна из основных задач с такими моделями - предотвращение сжатия изученных представлений во время обучения. LeWM использует SIGReg для стабилизации этого процесса, позволяя всей модели обучаться напрямую на пикселях и действиях без использования предварительно обученного визуального кодера. В результате получается модель с примерно 15 миллионами параметров, которую можно обучить на одном GPU за несколько часов, и она использует свои изученные динамические свойства для планирования в сторону цели. Авторы сообщают о планировании до 48 раз быстрее, чем DINO-WM, оставаясь конкурентоспособными по нескольким оцененным контрольным задачам. Что делает эту работу особенно интересной, так это то, как мало механизма, похоже, требуется. Это поднимает возможность того, что относительно маленькие модели мира могут быть достаточно хороши, чтобы изучать полезные динамики и поддерживать эффективное планирование. На группe чтения мы рассмотрим, почему этот относительно простой подход работает, чему модель на самом деле учится о своей среде и где эта простота может начать становиться ограничением. Шире ли вопрос таков: Как далеко может масштабироваться компактная латентная модель мира, подобная этой, к реальной манипуляции с роботами? Не требуется подготовки. Пробегите глазами аннотацию, если у вас есть десять минут. Все приветствуются — независимо от того, что вы изучаете, где вы учитесь и сколько робототехники вы сделали до сих пор. Приходите с вопросами, разногласиями или своим собственным мнением о том, чему на самом деле должна учиться модель мира для робототехники. 🎟️ Места ограничены, поэтому мы можем сделать сессию личной и интерактивной. Пожалуйста, зарегистрируйтесь заранее и приходите только если вы получили билет. 📍 Мероприятие проходит в кампусе Merantix AI. Двери открываются в 18:30, начинаем в 18:45. 👋 Вы новичок? Присоединяйтесь к сообществу — все остальное будет анонсироваться там первым.