Wie man eine Multi-Modell-Architektur bereitstellt

In den letzten Jahren haben Unternehmen große Frontier-Modelle gewählt, um ihre KI-Anwendungen zu entwickeln, da sie die meisten Anwendungsfälle abdecken konnten und die einzigen praktikablen Optionen in großem Umfang waren. Aber diese Welt verändert sich schnell, und heute neigen die Teams, die die besten KI-Produkte auf den Markt bringen, zunehmend dazu, kleinere, spezialisierte Modelle zu verwenden, da sie in zentralen Aufgaben besser abschneiden, oft viel schneller sind und zu einem Bruchteil der Kosten bereitgestellt werden können.Einige häufige Beispiele, an die wir denken, sind Sprach-KI, die in Echtzeit antworten kann, schnelle Abrufe in strukturierten Daten-Dokumenten oder Vorhersagen auf Tabellen, die Unternehmen führen.Schließen Sie sich Baseten und Führungskräften von Gradium, Synthefy und Sid.ai bei Getränken, Snacks, unterhaltsamen Demos und einer offenen Diskussion darüber an, warum die Branche sich in Richtung einer Multi-Modell-Welt verschiebt und wie Baseten dabei helfen kann.Wir bringen Führungspersönlichkeiten von drei Laboren zusammen, die für diese neue Welt entwickeln:Das Panel wird von Bola Malek, Leiter von Baseten für Modell-Labore, moderiert. Sie werden erläutern, was ihre Modelle tun, was ein Allzweckmodell nicht kann, wo die Grenze zwischen Spezialisten und Generalisten verläuft und was nötig ist, um effizient und in großem Umfang eine Flotte von Modellen in der Produktion zu betreiben.Diese Veranstaltung wird von Baseten ausgerichtet – der Trainings- und Inferenzplattform hinter einigen der anspruchsvollsten KI-Workloads in der Produktion wie Abridge, Cursor, Notion und OpenEvidence. Die meisten bringen ihre eigenen Modelle mit. Wir machen sie schnell.