Sitzung 09: KI vertrauenswürdig machen

Testen, Bewerten und Sichern intelligenter Systeme Über die Veranstaltung KI-Anwendungen können beeindruckende Ergebnisse erzielen, aber wie wissen wir, wann sie tatsächlich gut funktionieren? Traditionelle Software kann mit vorhersehbaren Eingaben und erwarteten Ausgaben getestet werden. KI-Systeme sind anders: Ihre Antworten können sich ändern, Informationen können missverstanden werden, und anscheinend kleine Änderungen können die Qualität eines gesamten Systems beeinflussen. Da KI für die Informationssuche, die Nutzung von Werkzeugen und die Durchführung von Aufgaben verantwortlich wird, reicht es nicht mehr aus, nur ein paar Fragen zu stellen und zu entscheiden, dass "es gut aussieht". In Sitzung 09 dieser Serie konzentrieren wir uns darauf, intelligente Systeme messbar, testbar und sicher zu machen. Aufbauend auf den Abrufsystemen, KI-Tools und Workflows, die im Laufe der Serie entwickelt wurden, werden wir erkunden, wie man KI-Antworten bewertet, Systeme gegen unerwartete oder bösartige Eingaben testet, Sicherheitsvorkehrungen hinzufügt und automatisch erkennt, wann Änderungen die Systemqualität negativ beeinflussen. Was wir behandeln werden Das praktische Codelab: KI auf die Probe stellen In diesem praktischen Workshop werden die Teilnehmer: Am Ende der Sitzung werden die Teilnehmer ein System haben, das mehr als nur funktioniert – es wird eine Möglichkeit haben, seine Qualität zu messen, Schwächen zu identifizieren und Rückschritte während seiner Entwicklung zu verhindern. Die große Idee