Сенсорные веса - Хакатон по непрерывному обучению

Хакатон по непрерывному обучению в Берлине, организованный Construct Labs и Alexandria 1 августа, Берлин. Один день, ~20 лучших ML-исследователей и инженеров Европы, одна цель: модели, которые продолжают обучаться после развертывания. Современные крупные языковые модели живут в постоянном настоящем. Они выходят из обучения с обширными знаниями, замороженными в их параметрах, а затем никогда не формируют новые воспоминания. Мы компенсируем это вспомогательными инструментами: извлечение, более длинный контекст, агенты. Но извлечение - это не обучение. Настоящее обучение требует сжатия, а сжатие происходит в весах. Этот хакатон именно об этом: обновление параметров, а не подсказок. Команды получат заранее подготовленный набор данных и выделенные вычислительные ресурсы. Возможные темы включают: Доступны дотации на поездки для участников, проживающих за пределами Германии, особенно из Цюриха, Лондона и Парижа. С поддержкой Telli, Lyceum и Tech Europe. Подавайте заявку ниже. Отбор проводится на основе продемонстрированной работы: статей, репозиториев или тренировочных запусков.