Récupération Augmentée en Temps Réel (RAG)

Les Pipelines de Récupération Augmentée en Temps Réel (RAG) à Grande Échelle en JavaRAG sont le modèle utilisé pour améliorer la précision des LLM et minimiser les hallucinations de l'IA. Mais la plupart des implémentations sont un patchwork de tâches d'indexation par lots, de bases de données vectorielles externes, de courtiers en messages, de services divers et de code de liaison fragile. Le résultat est prévisible : une latence plus élevée, des opérations plus difficiles et plus coûteuses. Dans cette présentation, vous découvrirez une architecture RAG en streaming construite nativement en Java : ingestion et transformation continues avec des pipelines DAG distribués, inférence d'indexation évolutive horizontalement et collections vectorielles distribuées en mémoire pour une recherche sémantique en millisecondes. Nous allons montrer comment les données peuvent être vectorisées à leur arrivée à partir de CDC, d'événements, de sources REST et de documents, comment un traitement conscient des partitions réduit la surcharge réseau, et comment la co-localisation du calcul avec le stockage vectoriel permet une récupération rapide avec filtrage et enrichissement dans un seul runtime. L'objectif est une plateforme unifiée et avec état qui réduit l'étalement architectural tout en améliorant la latence et la résilience. Points de Discussion Clés : Scott McMahon est le Directeur Senior de l'Architecture de Solutions chez Hazelcast®, avec plus de 25 ans d'expérience en développement logiciel et en conseil d'entreprise. Avant de rejoindre Hazelcast, il a construit des plateformes d'analytique de big data et des systèmes de gestion des processus métiers pour de nombreuses grandes entreprises mondiales. Il vit actuellement à Portland, Oregon, et quand il ne travaille pas sur des systèmes informatiques, il aime sortir et s'amuser avec sa famille.