Sparse Autoencoder

Wenn ein KI-Modell eine Antwort berechnet, passiert das in Form von riesigen Zahlenreihen — sogenannten Aktivierungen — die zwischen den Schichten des Modells weitergegeben werden. Was diese Zahlen inhaltlich bedeuten, ist für Menschen kaum zu erkennen. Ein Sparse Autoencoder ist ein zweites, kleineres Netz, das man nach dem Training über diese Zahlenreihen legt. Seine Aufgabe: die Aktivierungen so umzuschreiben, dass möglichst wenige, dafür aber klare und trennbare Einheiten entstehen. Das Wort « sparse » bedeutet dabei « spärlich » — die meisten Einheiten sind zu jedem Zeitpunkt null, nur wenige sind aktiv.

Warum Sparse Autoencoder die KI-Forschung beschäftigen

Große Sprachmodelle gelten als « Black Box ». Man gibt Text hinein, Text kommt heraus — was dazwischen passiert, bleibt verborgen. Das ist nicht nur wissenschaftlich unbefriedigend, sondern auch sicherheitsrelevant: Wer nicht versteht, warum ein Modell eine Antwort gibt, kann schlecht vorhersagen, wann es falsch liegt oder ob es manipulierbar ist.

Sparse Autoencoder sind eines der wichtigsten aktuellen Werkzeuge im Forschungsfeld der « Mechanistic Interpretability » — also der Frage, welche Rechenschritte im Modell welche Konzepte repräsentieren. Forscher bei Anthropic haben 2024 mit einem Sparse Autoencoder im Modell Claude mehrere Millionen solcher Einheiten gefunden und gezeigt, dass einzelne davon auf Konzepte wie « Hauptstädte », « Gefährlichkeit » oder bestimmte Personen reagieren. Das ist ein Fortschritt, aber kein vollständiges Bild — die meisten Einheiten bleiben schwer zu benennen.

Wie ein Sparse Autoencoder die Aktivierungen zerlegt

Das Prinzip lässt sich in zwei Schritte aufteilen. Im ersten Schritt — dem Encoder — nimmt das Netz eine Aktivierungsreihe entgegen und rechnet sie in einen viel größeren Vektor um. Dieser Vektor hat oft zehnmal oder hundertmal so viele Einträge wie das Original. Durch einen mathematischen Trick — eine sogenannte Sparsity-Strafe beim Training — wird das Netz gezwungen, die meisten dieser Einträge auf null zu setzen.

Im zweiten Schritt — dem Decoder — wird der spärliche Vektor wieder zurück in das ursprüngliche Format gerechnet. Das Netz lernt also: Ich muss die Originalzahl so gut wie möglich rekonstruieren, darf dabei aber fast nur eine Handvoll aktiver Einheiten benutzen. Das zwingt es, die wirklich wichtigen Muster im Signal zu isolieren. Eine Analogie: Statt ein Gemälde mit jeder möglichen Farbe nachzumalen, darf man nur fünf Farben wählen — man überlegt genauer, welche fünf am meisten leisten.

Was dabei entsteht, nennt sich « Feature » — eine Einheit, die auf ein bestimmtes Muster im Eingabetext reagiert. Features sind nicht von Menschen vorgegeben; sie entstehen vollständig aus den Daten. Deshalb findet man manchmal überraschende Konzepte, die niemand explizit programmiert hat.

Sparse Autoencoder in aktuellen Produkten und Debatten

Sparse Autoencoder sind kein Endprodukt, das Nutzer direkt sehen. Sie sind ein Forschungsinstrument, das hinter den Kulissen eingesetzt wird. Anthropic, das Unternehmen hinter dem Chatbot Claude, hat 2024 öffentlich gemacht, wie es Sparse Autoencoder nutzt, um zu untersuchen, welche Konzepte das Modell intern entwickelt hat. OpenAI und Google DeepMind betreiben ähnliche Forschung.

In der Debatte um KI-Sicherheit spielen Sparse Autoencoder eine wachsende Rolle. Wenn man zeigen kann, dass ein Modell intern eine Einheit für « Täuschung » oder « Selbsterhaltung » entwickelt hat, ist das ein konkreter Anhaltspunkt für mögliche Risiken. Ob solche Einheiten tatsächlich das Verhalten steuern oder nur Korrelationen im Text widerspiegeln, ist eine offene Forschungsfrage.

Ein typischer Irrtum: Sparse Autoencoder « erklären » ein KI-Modell vollständig. Das tun sie nicht. Sie liefern Hinweise und Hypothesen — mehr ein Wörterbuch erster Entwürfe als ein vollständiges Handbuch. Trotzdem gelten sie derzeit als einer der vielversprechendsten Ansätze, die Blackbox großer Sprachmodelle ein Stück weit zu öffnen.