2001: Agentische Odyssee im Bedrohungsmodellierung

„2001: Agentische Odyssee“ ist ein praxisorientierter Workshop, in dem wir das Bedrohungsmodell des HAL 9000-Systems aus 2001: Odyssee im Weltraum betrachten, als ob es sich um ein modernes agentisches KI-System (LLM + Werkzeuge + Berechtigungen + Nebenwirkungen) handelte.Ich bringe ein HAL-DFD mit, und gemeinsam markieren wir Vertrauensgrenzen und identifizieren klassische Bedrohungen nach dem Motto „Was kann schiefgehen?“. Die Teilnehmer teilen sich dann in kleine Gruppen auf, um Angriffsbaumzweige zu erstellen und diese in eine Fehlermöglichkeits- und Einflussanalyse (FTA) unter Verwendung von AND/OR-Logik und minimalen Schnitteinsätzen zu übersetzen, einschließlich leichter Wahrscheinlichkeitsabschätzungen zur Priorisierung der wahrscheinlichsten Fehlerketten.Wir beenden den Workshop, indem wir diese Fehlerschritte in automatisierungsfähige Testideen (Fehlerinjektion, Invarianten, Beweise) umwandeln und optional ein strukturiertes HAL-Bedrohungsmodell für die Einreichung in die OWASP Bedrohungsmodell-Bibliothek entwerfen. Das Konzept ist so gestaltet, dass jeder in 10-15 Minuten beitragen kann, während Fortgeschrittene tiefgehende Analysen zu FTA und Priorisierung durchführen können. Jede Phase ist so aufgeteilt, dass der Zugang jederzeit möglich ist.