Session 09 : Rendre l'IA digne de confiance

Tester, Évaluer et Sécuriser les Systèmes Intelligents À propos de l'Événement Les applications d'IA peuvent produire des résultats impressionnants, mais comment savons-nous quand elles fonctionnent réellement bien ? Les logiciels traditionnels peuvent être testés avec des entrées prévisibles et des sorties attendues. Les systèmes d'IA sont différents : leurs réponses peuvent changer, les informations peuvent être mal comprises et des changements apparemment mineurs peuvent affecter la qualité d'un système entier. Alors que l'IA devient responsable de la recherche d'informations, de l'utilisation d'outils et de l'exécution de tâches, se contenter de poser quelques questions et de décider que "cela a l'air bon" ne suffit plus. Dans la Session 09 de cette série, nous nous concentrons sur la création de systèmes intelligents mesurables, testables et sécurisés. En nous basant sur les systèmes de récupération, les outils d'IA et les flux de travail développés tout au long de la série, nous explorerons comment évaluer les réponses de l'IA, tester des systèmes contre des entrées inattendues ou malveillantes, ajouter des mesures de protection et détecter automatiquement lorsque des changements affectent négativement la qualité du système. Ce que nous allons couvrir Le Codelab Pratique : Mettre l'IA à l'Épreuve Dans cet atelier pratique, les participants : À la fin de la session, les participants disposeront d'un système qui fait plus que fonctionner : il aura un moyen de mesurer sa qualité, d'identifier les faiblesses et d'éviter les régressions à mesure qu'il évolue. La Grande Idée