Forschungsgespräche: Einführung in die Ausrichtung von Superintelligenz

Description

Die meisten heutigen Forschungsarbeiten zur KI-Sicherheit, wie die Arbeiten von Anthropic, OpenAI und anderen, die unsere Lesegruppe normalerweise behandelt, konzentrieren sich auf empirische Methoden, die auf die gegenwärtige Grenze angewendet werden, in der Hoffnung, dass das resultierende Verständnis auch für zukünftige Systeme gilt. Aber die Ausrichtung muss wahrscheinlich beim ersten Versuch mit Systemen funktionieren, die qualitativ anders sein können. Ein alternativer Ansatz beginnt mit den Eigenschaften, die zukünftige Systeme haben sollen, und zerlegt diese in grundlegende Fragen zu Agency, Reasoning, Selbstmodifikation oder Optimierung. In unseren nächsten Forschungsgesprächen wird Ouro, ein Sicherheitsforscher im Bereich KI, der mit Orthogonal zusammenarbeitet und das AFFINE-Seminar zur theoretischen Ausrichtung mitorganisiert, die Eigenschaften von Superintelligenz, übersehene Ausrichtungs-Perspektiven diskutieren, gegenwärtige Ansätze bewerten und mentale Modelle zur Überlegung über die Ausrichtung an der Grenze der Fähigkeiten einführen. Wann: Freitag, den 24. Juli, 16.00-18.00 Uhr Wo: Lumi Otaniemi Hub (4. Etage), Aalto Wir versammeln uns vor dem Gebäude und gehen gemeinsam um 16.00 Uhr zum Präsentationsraum. Falls nötig, melden Sie sich in der Telegram-Gruppe: https://t.me/+4WUz4gBTIok3NGQ8