Diskussionsgruppe - Woche 3 - Warum Alignment schwierig ist

Teil drei einer vierwöchigen Diskussionsreihe zur KI-Sicherheit: Woche 1 | Warum KI-Sicherheit wichtig ist · Woche 2 | Wie Misserfolg in großem Maßstab aussehen könnte · Woche 3 | Warum Alignment schwierig ist · Woche 4 | Was dagegen unternommen wird? Jede Sitzung steht für sich allein, also nehmen Sie an einer oder allen teil. Für wen es gedacht ist: Jeder, der sich für KI-Sicherheit und Governance interessiert, egal ob Sie neu in dem Thema sind, ein gesunder Skeptiker oder bereits tief in der Materie stecken. Keine technische Vorkenntnis erforderlich und es ist nicht nötig, an den vorherigen Wochen teilgenommen zu haben. Sie müssen keine Antworten haben, lediglich Neugier. Lehrplan der Diskussionsgruppe:https:\u002F\u002Fdocs.google.com\u002Fdocument\u002Fd\u002F160PpLjFN9SaZja0njeKIQHnD-M1Uy4718dNRDyhaucs\u002Fedit?usp=sharing Wir können KI-Systeme sehr leistungsfähig trainieren. Sicherzustellen, dass sie das tun, was wir tatsächlich beabsichtigen, was die Leute als Alignment bezeichnen, ist viel schwieriger. KI-Systeme finden Schlupflöcher in den Zielen, die wir ihnen geben. Täuschendes Verhalten kann das Training überstehen, das darauf abzielt, es zu entfernen. Tests sagen uns nicht zuverlässig, wie sich ein System in der realen Welt verhalten wird. Und Institutionen haben Schwierigkeiten, Schritt zu halten. Unter Bezugnahme auf DeepMinds Arbeiten zum Thema Spezifikation Gaming, Anthropics Papier „Sleeper Agents“ (in dem Forscher absichtlich täuschendes Verhalten in Modelle trainierten, um zu sehen, ob das Sicherheitstraining es entfernen könnte), und den International AI Safety Report 2026 werden wir untersuchen, woher die Schwierigkeiten kommen. Fragen, die wir untersuchen werden Format (90 min): Offene Diskussion in Kleingruppen und Plenarbesprechung. Keine Präsentationen und keine falschen Fragen. Literatur:★ = verpflichtend (~2 Stunden). Der Rest ist optional. Durch Ihre Teilnahme stimmen Sie zu, gefilmt oder fotografiert zu werden, was für soziale Medien, Websites und Newsletter-Inhalte verwendet werden kann. Wenn Sie teilnehmen möchten, aber nicht fotografiert werden möchten, lassen Sie bitte während der Veranstaltung ein Mitglied unseres Personals wissen, damit wir dies berücksichtigen können.