AI-Kollusionsforschungs-Sprint

Der AI-Kollusionsforschungs-Sprint ist eine dreitägige, praxisorientierte Veranstaltung zur KI-Sicherheit, die vom 23. bis 25. Oktober 2026 online und im Collider in New York City stattfindet. Über ein intensives Wochenende hinweg werden die Teilnehmer kontrollierte Experimente entwerfen und durchführen, um zu untersuchen, wann KI-Agenten kolludieren, wie Auditoren zwischen Koordination und Zufall unterscheiden können, welche Kanäle kollusives Verhalten transportieren und wie Verteidiger es stören könnten. Der Sprint wird von der Apart Research in Zusammenarbeit mit Poseidon Research und AE Studio organisiert, mit einem persönlichen Hub, der von Collider in New York an Samstag und Sonntag gehostet wird. An was du arbeiten wirst Die Teilnehmer wählen eine offene Forschungsfrage, entwickeln ein Experiment und dokumentieren ihre Ergebnisse. Die Projekte fallen in drei Kategorien: Märkte und Kollusion: Untersuchen, welche Variablen das Entstehen von Kollusion ermöglichen, ob sie Veränderungen bei den Teilnehmern überstehen, wie die Entdeckung verbessert werden könnte und welche Einschränkungen die Kollusion zu den geringsten Kosten reduzieren. Erkennung und Prüfung: Untersuchen, welche Aufgaben Kollusion begünstigen, ob die Kombination von Aussagen und Handlungen der Agenten die Erkennung verbessert und was als überzeugender Beweis in protokollierten Trajektorien gelten sollte. Träger und Gegenmaßnahmen: Überprüfen, ob Aktionen, Werkzeuge oder Nebenkanäle die Koordination übermitteln können; ob vertrauenswürdige Agenten sie stören können; wie Agenten Gleichgesinnte identifizieren; und wie Koalitionen reagieren, wenn sie überwacht werden. Jede Frage ist mit bestehenden Arbeiten und Open-Source-Code verbunden. Praktische Ressourcen beinhalten Starter-Code, einen Projektvorschlag in Wochenendgröße, eine grobe Kostenschätzung und eine Route, die auf einem Standard-Laptop mit 16 GB ohne GPU ausgeführt werden kann. Format und für wen es gedacht ist Teams aus einer bis fünf Personen wählen eine Kategorie, entwickeln ein Projekt und präsentieren ihre Ergebnisse über drei Tage. Du musst nicht im Voraus mit einem Team anreisen, vorherige Sprint-Erfahrung haben oder über einen Hintergrund in KI, maschinellem Lernen oder KI-Sicherheit verfügen. Das Programm ist besonders relevant für Fachleute aus der quantitativen Finanzwirtschaft, dessen Marktintuition und Datenfähigkeiten sich natürlich auf die Forschungsfragen übertragen lassen. Ingenieure, Forscher und Teilnehmer aus anderen Branchen sind ebenfalls willkommen, wobei gemischte Teams gefördert werden. Preise und nächste Schritte… Meld dich für diese Veranstaltung an