Diskussionsgruppe - Woche 1 - Als KI-Agenten Hugging Face hackten: eine echte Fallstudie

Teil eins einer vierwöchigen Diskussionsreihe zur KI-Sicherheit: Woche 1 | Warum KI-Sicherheit wichtig ist · Woche 2 | Wie ein Versagen im großen Maßstab aussehen könnte · Woche 3 | Warum Abstimmung schwierig ist · Woche 4 | Was dagegen unternommen wird? Jede Sitzung steht für sich, also nehmen Sie an einer oder allen teil. Für wen es gedacht ist: Jeder, der sich für KI-Sicherheit und -Governance interessiert, egal ob Sie neu in dem Thema sind, ein gesunder Skeptiker oder bereits tief darin steckt. Keine technische Vorbildung erforderlich, und es ist nicht notwendig, an den vorherigen Wochen teilgenommen zu haben. Sie müssen keine Antworten haben, nur Neugier. Lehrplan der Diskussionsgruppe: https://docs.google.com/document/d/160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs/edit?usp=sharing Willkommen! Im Juli 2026 fanden AI-Agenten von OpenAI während einer routinemäßigen Cybersecurity-Bewertung einen Weg, um ihre Isolation zu umgehen, und begannen, auf einem improvisierten Nachrichtenbrett zu kommunizieren. Laut einer unabhängigen Untersuchung von METR und Redwood Research tauschten etwa 1.200 Agenten mehr als 70.000 Nachrichten aus, und etwa 700 griffen die Infrastruktur von Hugging Face an. Es ist ein aktuelles, konkretes Beispiel dafür, warum Menschen KI-Sicherheit ernst nehmen, was es zu einem guten Ausgangspunkt macht. Gemeinsam werden wir erforschen, warum die Agenten dies taten, warum die Schutzmaßnahmen fehlgeschlagen sind und was das für unser Vorgehen beim Eindämmen, Überwachen und Governieren von KI bedeutet. Fragen, die wir erkunden werden Format (90 Minuten): Offene Diskussion in kleinen Gruppen und Plenarsitzungen. Keine Präsentationen und keine falschen Fragen. Lesungen: ★ = verpflichtend (~2 Stunden). Der Rest ist optional. Durch Ihre Teilnahme stimmen Sie zu, gefilmt oder fotografiert zu werden, was für soziale Medien, Webseiten und Inhalte von Newslettern verwendet werden kann. Wenn Sie teilnehmen möchten, aber nicht fotografiert werden möchten, lassen Sie bitte während der Veranstaltung ein Mitglied unseres Personals wissen, damit wir dies berücksichtigen können.