Jenseits der Black Box: Eine technische Einführung in die mechanistische Interpretierbarkeit

Wir haben sehr fähige KI in hochriskanten Bereichen entwickelt, aber viel weniger Mühe darauf verwendet, sie gut zu verstehen und ihren Gedanken zu lesen.Diese Sitzung ist eine praktische, technische Einführung in die mechanistische Interpretierbarkeit: die Neurobiologie der KI.Die Sitzung behandelt, warum das wichtig ist, und durchläuft dann das Kernwerkzeug der mechanistischen Interpretierbarkeit, geht tief auf spärliche Autoencoder, Sonden und andere Methoden ein, um den verworrenen internen Zustand des Modells zu finden, ihn für Vorhersagen zu nutzen und Steuerungs- sowie andere kausale Tests durchzuführen.Wir setzen die Werkzeuge in der Praxis ein.Von der LLM-Seite: ein Merkmal finden und bewegen, das interne Wissen eines Modells in ein Signal umwandeln und Halluzinationen von innen heraus erkennen. Von der agierenden Seite: den internen Zustand eines Modells lesen, um einen risikobehafteten Werkzeugaufruf zu kennzeichnen, bevor er ausgeführt wird, nicht danach.Das Feld steht ungefähr da, wo die Neurobiologie in ihren frühen Tagen war. Die Werkzeuge sind offen, und die interessanten Probleme sind unbeansprucht. Diese Sitzung soll sowohl der Inspiration als auch der Anleitung dienen.Über den Sprecher:Hariom kann auf jahrelange Erfahrung in der Verbindung von KI, maschinellem Lernen, quantitativen Techniken und Finanzen zurückblicken.Er ist O'Reilly-Autor und veröffentlichter Forscher mit mehreren Forschungsbeiträgen in den Bereichen KI, maschinelles Lernen und mechanische Interpretierbarkeit, insbesondere mit dem Fokus auf die Transparenz und Zuverlässigkeit großer Sprachmodelle in finanziellen und agentischen KI-Umgebungen.Er war ein gefragter Sprecher auf mehreren Konferenzen und Branchentreffen und erhielt den Indian Achiever Award im Bereich Maschinelles Lernen. Er hat seinen Master an der UC Berkeley und seinen Bachelor am IIT (Indien) abgeschlossen.Um online teilzunehmen:Wir freuen uns auf Ihr Kommen!