За пределами API: Инженерия с открытыми LLM весами

Большинство команд взаимодействует с LLM через API: отправьте запрос, получите ответ и стройте вокруг этого результата. Модели с открытыми весами меняют это, предоставляя инженерам больше контроля над тем, как модели запускаются, настраиваются, оцениваются и интегрируются в реальные системы. В этой сессии Лакшми Нарасимхан, директор инженерии