Die Agentenobduktion - Brechen und Reparieren von KI-Agenten

Eine praxisnahe Sitzung, die untersucht, wie KI-Agenten aus Sicherheitsgründen tatsächlich scheitern – nicht abstrakte Gespräche über KI-Sicherheit, sondern die spezifischen, gut dokumentierten Fehlerarten, mit denen Teams heute konfrontiert sind: Prompt-Injektion durch Tool-Ausgaben, übermäßige Handlungsfreiheit durch überberechtigten Tool-Zugriff, Gedächtnis-/Kontextvergiftung und unsichere Handhabung von Agentenausgaben. Die erste Hälfte ist eine Live-Obduktion eines absichtlich kompromittierten Demo-Agenten, bei der die Teilnehmer genau nachverfolgen, wie er ausgenutzt wurde und was den Angriff ermöglicht hat. Die zweite Hälfte wird gegnerisch: Die Teilnehmer bilden Paare in rote und blaue Teams innerhalb einer isolierten Sandbox – ohne echte Systeme oder Daten – wobei die roten Teams versuchen, den Agenten zu manipulieren, um Daten preiszugeben oder Tools außerhalb seines Umfangs aufzurufen, und die blauen Teams die Schwachstelle live beheben. Die Teilnehmer gehen mit einer funktionierenden Checkliste für die Prüfung ihres eigenen Agentenstacks nach Hause. Bengaluru Tech Week 2026 findet vom 1. bis 6. September 2026 als dezentralisierte Builder-Woche in Bengaluru statt. Die BTW richtet sich an Gründer, Ingenieure, Designer, Investoren, Betreiber, Forscher, Studenten und Gemeinschaften, die von Bengaluru aus für Indien und die Welt aufbauen. Erkunden Sie die Woche unter bengalurutechweek.com