Системы SF: Исследования в практику, от механизмов вывода до многомодального кодирования

Клуб систем SF возвращается с парой захватывающих докладов от исследователей, которые приносят передовую науку в реальный мир! Независимо от того, являетесь ли вы опытным экспертом по выводу или энтузиастом языков программирования, вы многому научитесь на этом мероприятии. Эта встреча щедро принимается компанией LatchBio в их офисе в Сан-Франциско. Будут предоставлены еда и напитки! Повестка дня Доклады Шрея Шанкар (CMU): Специфичный для домена вывод LLM для AI-SQL Пользователи баз данных давно хотели запрашивать неструктурированный текст, и LLM наконец сделали это возможным. Основные поставщики теперь поддерживают AI-SQL, который добавляет фильтры, соединения, карты и классификаторы на основе ИИ к SQL. Чтобы выполнять запросы AI-SQL, базы данных трансформируют эти запросы в планы с одним вызовом LLM на каждую строку, или, для соединений, на каждый кортеж в декартовом произведении. Даже после оптимизации запросов может оставаться сотни тысяч или миллионы вызовов! В теории, механизмы вывода должны отлично справляться с этой нагрузкой, потому что каждый вызов почти полностью предзаполнен и возвращает всего несколько токенов. Удивительно, но общие механизмы вывода требуют гораздо больше времени, чем ожидалось, потому что их кэши KV не знают, что запрос будет повторно использовать, и обработка такого количества запросов добавляет высокие накладные расходы на хост. Мы используем эти ограничения, чтобы обосновать Quail, открытый движок запросов для AI-SQL, который строит наша лаборатория. Мы описываем планировщик и движок выполнения Quail, показываем предварительные впечатляющие результаты и заканчиваем несколькими захватывающими открытыми проблемами (и просьбой о помощи от экспертов по выводу). Паркер Зайглер (UC Berkeley): Интерактивные, многомодальные системы программирования Подавляющее большинство систем программирования предоставляет разработчикам одну модальность для написания кода: редактирование текста. Редактирование текста необычайно выразительно, но для программистских областей с богатыми визуальными выводами — такими как визуализация данных, графика и обработка изображений — ему не хватает живой обратной связи и возможностей прямого манипулирования, которые сияют в таких инструментах, как Figma, Photoshop или Blender. Как мы можем проектировать системы программирования, которые объединяют лучшие элементы текстового редактирования с прямым манипулированием, естественным языком и другими модальностями ввода, позволяя разработчикам использовать правильную модальность в данный момент? Этот доклад выделит несколько систем из моего исследования в аспирантуре, исследующих этот вопрос, с особым акцентом на то, как старые и новые идеи из исследований компиляторов могут эффективно переноситься на новые виды интерактивных, многомодальных систем программирования.