Lineare Sonde

Ein Computerprogramm, das aus Beispielen gelernt hat, speichert sein Wissen in riesigen Zahlenlisten. Diese Zahlen entstehen im Inneren des Programms, während es einen Text oder ein Bild verarbeitet. Von außen sieht man ihnen nichts an: es sind einfach tausende Kommazahlen. Eine lineare Sonde ist ein Werkzeug, um herauszufinden, was in diesen Zahlen steckt. Man nimmt die Zahlen aus einer bestimmten Stelle im Programm und trainiert darauf eine besonders einfache Rechenregel, die eine einzige Frage beantworten soll. Zum Beispiel: Ist der Satz, den das Programm gerade liest, auf Deutsch oder auf Englisch? Klappt das zuverlässig, war die Antwort in den Zahlen bereits deutlich enthalten.

Was der Test über das Innenleben verrät

Große KI-Systeme sind schwer zu durchschauen. Man sieht die Eingabe und die Ausgabe, aber nicht, warum das System so entschieden hat. Genau deshalb gibt es einen ganzen Forschungszweig, der Modelle von innen untersucht. Die lineare Sonde ist dort eines der ältesten und meistgenutzten Werkzeuge, weil sie schnell und billig ist.

Ihr Reiz liegt in der Einfachheit. Die Sonde darf nur gewichten und addieren, sonst nichts. Sie kann also nichts Komplizieres selbst herausrechnen. Wenn sie trotzdem gute Ergebnisse liefert, liegt das nicht an ihrer eigenen Klugheit, sondern daran, dass die Information im Modell sauber und leicht zugänglich abgelegt ist. Fachleute sagen dazu, die Eigenschaft sei „linear repräsentiert“.

Damit lassen sich auch praktische Fragen klären. Forscher testen etwa, ab welcher Verarbeitungsstufe ein Sprachmodell die Grammatik eines Satzes erfasst hat. Oder ob ein Modell intern mitverfolgt, ob eine Aussage wahr oder falsch ist. Solche Befunde helfen später dabei, Fehlverhalten früh zu erkennen.

Vom Modellinneren zur Vorhersage

Der Ablauf ist immer gleich. Zuerst schickt man viele Beispiele durch das fertige Modell, etwa tausende Sätze. Bei jedem Beispiel greift man an einer festgelegten Stelle im Modell die dort entstehenden Zahlen ab. Diese Zahlenliste heißt Aktivierung. Zu jedem Beispiel notiert man außerdem die richtige Antwort auf die Frage, die man untersuchen will.

Dann trainiert man die Sonde. Sie multipliziert jede der Zahlen mit einem eigenen Gewicht, addiert alles auf und entscheidet anhand des Ergebnisses. Man kann sich das wie eine Notenberechnung vorstellen: Jedes Fach zählt unterschiedlich stark, am Ende steht eine einzige Zahl. Beim Training werden diese Gewichte so lange angepasst, bis die Sonde möglichst oft richtig liegt. Wichtig: Das große Modell selbst bleibt dabei völlig unverändert.

Anschließend misst man die Trefferquote an neuen Beispielen, die die Sonde nie gesehen hat. Hier lauert ein bekannter Irrtum. Eine hohe Trefferquote beweist nicht, dass das Modell diese Information auch tatsächlich benutzt. Sie beweist nur, dass die Information vorhanden ist. Um den Unterschied zu klären, greifen Forscher zusätzlich in die Zahlen ein und beobachten, ob sich die Ausgabe des Modells ändert.

Sonden in Forschung und Produkten

In Fachartikeln zur KI-Sicherheit tauchen lineare Sonden regelmäßig auf. Anbieter wie Anthropic oder OpenAI berichten, dass sie damit interne Signale suchen, die auf riskante Antworten hindeuten. Eine solche Sonde kann im laufenden Betrieb mitlaufen, weil sie fast keine Rechenzeit kostet.

Auch außerhalb der Sicherheitsforschung ist die Technik verbreitet. Wer ein großes Bildmodell für eine eigene Aufgabe nutzen will, hängt oft nur eine solche einfache Schicht an und trainiert allein diese. Das ist deutlich günstiger, als das ganze Modell neu zu trainieren. In diesem Zusammenhang spricht man von „Linear Probing“ als Alternative zum vollständigen Nachtrainieren, dem Fine-Tuning.

Abzugrenzen ist die lineare Sonde von Erklärverfahren, die einzelne Eingabewörter hervorheben. Diese fragen, welcher Teil der Eingabe wichtig war. Die Sonde fragt stattdessen, welches Wissen an einer bestimmten Stelle im Modell liegt. Beide Sichtweisen ergänzen sich, beantworten aber verschiedene Fragen.