ONNX basierte LLMs in Java

Brauchen wir wirklich PyTorch oder TensorFlow, wenn wir modernes Java haben?  Große Sprachmodelle (LLMs) werden typischerweise in Python mit Frameworks wie PyTorch oder TensorFlow aufgebaut, bevor sie für die Inferenz nach ONNX exportiert werden. Dieser Vortrag stellt diese Norm in Frage, indem er das Potenzial von Java bei der Erstellung von KI-Modellen demonstriert. Entdecken Sie, wie Sie ONNX-Modelle direkt in Java generieren können, einer Sprache, die selten mit der KI-Entwicklung in Verbindung gebracht wird, und zwar mit den innovativen Code-Reflexionsfunktionen von Project Babylon. Adam Sotona - Beratendes Mitglied des technischen Personals Gruppe Java-Plattform Foto- und Videohinweis: Durch Ihre Teilnahme stimmen Sie zu, dass Fotos und Videos gemacht und öffentlich zur Förderung der CZJUG-Meetups verwendet werden dürfen. Datenschutzhinweis: Um den Zugang zum Veranstaltungsort und die Sicherheit zu verwalten, kann CZJUG notwendige Registrierungsdetails mit dem Veranstaltungsort, Fortuna Entertainment Group a.s., teilen. Ihre Daten werden nicht für HR-/Marketingzwecke verwendet, es sei denn, Sie stimmen dies separat zu.