Paper Club #5: Позиційні Вектори та Довгий Контекст
Опис
Ласкаво просимо на наступний клуб наукових статей DEVx! Як кодування позицій токенів покращує довгий контекст та структурне розуміння вхідних даних, якщо це взагалі є? Ця стаття досліджує позиційні вектори -- RoPE, NoPE та QK-Norm. Я обговорюватиму мотиви, інтуїції, архітектурні рішення та деякі застосування позиційних векторів. Стаття: https://proceedings.neurips.cc/paper_files/paper/2025/file/5c9ab393551b7a39b4c02d88fe5e7e69-Paper-Conference.pdf Всі охочі можуть прийти і дізнатися більше. Запитання та цікавість вітаються! 📍 ЗМІНА МІСЦЯ AI Paper Club цього разу буде в новому місці: 11988 El Camino RealSan Diego, CA 92130 Ми будемо в семінарському приміщенні прямо біля лобі. Будь ласка, перевірте адресу перед тим, як йти, особливо якщо ви відвідували попередній клуб статей у нашому старому місці. До зустрічі!
Місце проведення
Розкажіть своїй мережі, що ви йдете
Поділіться цією подією, щоб розпочати розмови, запросити колег та налагодити контакти до її початку.
