Comment déployer une architecture multi-modèle

Depuis quelques années, les entreprises se tournent vers de grands modèles de pointe pour construire leurs applications d'IA, car ils pouvaient répondre à la plupart des cas d'utilisation et étaient les seules options viables à grande échelle. Mais ce monde change rapidement, et aujourd'hui, les équipes qui lancent les meilleurs produits d'IA se tournent de plus en plus vers des modèles plus petits et spécialisés, car ils surpassent les généralistes sur des tâches essentielles, sont souvent beaucoup plus rapides et peuvent être déployés à une fraction du coût.Quelques exemples courants que nous envisageons sont l'IA vocale qui peut répondre en temps réel, la récupération rapide dans des documents de données structurées, ou les prédictions à partir des tableaux sur lesquels les entreprises s'appuient.Rejoignez Baseten et des leaders de Gradium, Synthefy et Sid.ai pour des boissons, des collations, des démonstrations amusantes et une conversation franche sur pourquoi l'industrie se déplace vers un monde multi-modèle et comment Baseten peut aider à le soutenir.Nous rassemblons des leaders de trois laboratoires qui bâtissent pour ce nouveau monde :Le panel sera modéré par Bola Malek, Responsable de Baseten pour les Laboratoires de Modèles. Ils aborderont ce que leurs modèles font qu'un modèle à usage général ne peut pas, où se situe la ligne entre spécialiste et généraliste, et ce qu'il faut pour faire fonctionner efficacement une flotte de modèles en production à grande échelle.Cet événement est organisé par Baseten — la plateforme de formation et d'inférence derrière certaines des charges de travail d'IA les plus exigeantes en production comme Abridge, Cursor, Notion et OpenEvidence. La plupart apportent leurs propres modèles. Nous les rendons rapides.