#39 - Оптимизация моделей и вывод на базе ЦП

Все в порядке!!! Встреча #39 состоится 24 сентября в AI Sweden и будет сосредоточена на "Оптимизации моделей и выводе на базе ЦП". Мы очень рады сотрудничеству с испанскими волшебниками квантового ИИ Multiverse Computing и технологическими гигантами Intel и HPE. Программа в настоящее время разрабатывается, так что следите за обновлениями! В области оптимизации моделей и вывода происходит огромное количество событий. Каждый день объявляются новаторские подходы, такие как возможность запускать недавно выпущенную модель с 2.78 триллиона параметров Kimi K3 на одном ЦП с 8 ГБ памяти...!!! или анонс от Multiverse Computing 23 июля, что все их сжатые модели теперь работают на процессорах Intel Xeon 6. Так что пристегивайтесь и готовьтесь к впечатлениям! Программа мероприятия- Двери открываются в 17:00 CET- Выступления начинаются в 17:45 CET- Будут пицца и напитки- Возможно, будет модерация сессии вопросов и ответов.... Список спикеров будет определен позже... - Франко Серра, Архитектор решений в Multiverse Computing, выступит с докладом на тему "Ультраэффективные модели для масштабирования вашего датacenter GenAI и подготовки для развертывания на Edge". Аннотация: Когда организации стремятся развернуть Генеративный ИИ, две проблемы доминируют: как экономически масштабировать вывод в датacenter и как обеспечить интеллект на краю, где есть ограничения по подключению, энергии и пространству. Multiverse Computing разрабатывает ультраэффективные сжатые модели ИИ, включая LLMs, VLMs, распознавание речи и модели компьютерного зрения — спроектированные для обеспечения той же точности с меньшими требованиями к памяти. Интегрируя с оборудованием Intel®, предприятия могут развертывать более крупные модели ИИ на существующей инфраструктуре, а не расширять ее. В датacenter более экономные модели непосредственно приводят к увеличению пропускной способности, снижению потребления энергии и улучшению ROI, позволяя большему числу пользователей и рабочим заданиям работать на одной и той же инфраструктуре. На крае те же прорывы в сжатии делают возможным развертывание GenAI в ограниченных условиях — обеспечивая безопасный, малозадерживающий ИИ для тактических условий. - Томас Мельцер, Старший Архитектор решений в Intel, выступит с докладом о возрождении актуальности ЦП для вывода.... - Иоганн Фондин, Архитектор решений в HPE, выступит с докладом о динамике хранения, потоковой передачи и памяти... С нетерпением ждем встречи с вами, /Патрик и команда Stockholm MLOps