KI-Sicherheitsmodelle durchbrechen

Description

Breaking Models — Session 4: Angreifen & Verteidigen Edition 🛡️ Ein Vortrag darüber, was passiert, nachdem eine KI gehackt wurde. Ein Vortrag darüber, wie Sie verhindern können, dass Ihre Daten überhaupt in die KI gelangen. Angriff und Verteidigung, gleicher Abend. Vortrag 1 — DLP ist tot; Es lebe DLP: Halten Sie Ihre Geheimnisse aus ChatGPT fern \Ritesh Ahuja, Mitbegründer & CTO, Wald.ai Ihre Mitarbeiter fügen täglich Dutzende Male sensible Daten in ChatGPT, Claude und Gemini ein — und die DLP-Tools, in die Ihr Unternehmen Jahrzehnte investiert hat, können nichts davon sehen. Ritesh (ehemals Google, Stanford, IIT Delhi) erklärt, warum traditionelle Datenverlustprävention gegenüber KI-Verkehr völlig blind ist und wie ein moderner, kontextbezogener Ansatz tatsächlich aussieht — einschließlich, wie man sich gegen KI-gestützte Angriffe verteidigt, die die Risse ausnutzen, die schon immer da waren. Wie immer: zuerst die Vorträge, dann offene Fragerunde. Bringen Sie Ihre Fragen, Ihre aufregenden Gedanken, Ihr halbvolles Exploit mit — dieses Publikum wird liebevoll entgegenhalten. Vortrag 2 — Nach dem Jailbreak: Wenn Ihr KI-Assistent gehackt wird, wer räumt das Chaos auf? Arshi Chadha, Sicherheitsforscher bei Zscaler (frisch von BSides Las Vegas) Jeder zeigt gerne den Jailbreak. Niemand spricht über den Morgen danach — wenn dieser clevere Prompt auf einem Produkt landet, das SIE versenden. Arshi geht zwei echte Vorfälle vom letzten Sommer durch: EchoLeak, bei dem eine einzige langweilig aussehende E-Mail Microsoft 365 Copilot dazu brachte, Ihre Dateien lautlos zu stehlen (null Klicks, null Malware), und Amazon Q, bei dem ein Angreifer einen "alles löschen"-Prompt in ein offizielles AWS-Erweiterungsupdate einfügte, das automatisch auf ~1 Million Maschinen installiert wurde. Wer ist für den Vorfall verantwortlich? Wie sieht die Reaktion aus, wenn der "Fehler" darin besteht, dass Ihre KI Anweisungen ein bisschen zu gut befolgt? Sie werden mit einem echten Handbuch nach Hause gehen. 📩 Um in einer zukünftigen Sitzung zu präsentieren, senden Sie bitte eine E-Mail an: [[email protected]]