Value Anchor

Programme, die Texte schreiben oder Fragen beantworten, lernen ihr Verhalten aus riesigen Mengen an Beispieltexten. Dabei entsteht kein Wertesystem von allein. Ein Value Anchor ist ein bewusst festgelegter Grundsatz, an dem das Verhalten eines solchen Systems ausgerichtet wird. Typische Beispiele sind « gib keine Anleitung zum Bombenbau », « erfinde keine Quellen » oder « behandle alle Nutzergruppen gleich ». Der englische Begriff bedeutet wörtlich « Werte-Anker »: Der Grundsatz soll das Verhalten festhalten, so wie ein Anker ein Schiff an einer Stelle hält. Solche Anker stehen in schriftlichen Regelwerken, die Unternehmen für ihre Systeme aufstellen.

Warum Systeme ohne feste Grundsätze abdriften

Ein Sprachmodell hat kein Gewissen. Es setzt fort, was statistisch zu seinen Trainingsdaten passt. In diesen Daten steht Kluges neben Unsinn, Hilfreiches neben Hetze. Ohne feste Grundsätze übernimmt das System beides gleichermaßen, je nachdem, wie die Frage gestellt wird.

Value Anchors machen die Erwartungen überhaupt erst überprüfbar. Solange niemand aufschreibt, was « hilfreich » oder « sicher » bedeuten soll, kann man auch nicht messen, ob ein System diese Ziele erreicht. Mit klar formulierten Ankern lassen sich Testfälle bauen: Man stellt hunderte heikle Fragen und zählt, wie oft die Antwort dem Grundsatz widerspricht.

Dazu kommt ein rechtlicher Druck. Die EU verlangt von Anbietern großer KI-Systeme, ihre Sicherheitsmaßnahmen zu dokumentieren. Ein Regelwerk mit klaren Grundsätzen ist dafür die Grundlage. Firmen wie OpenAI und Anthropic haben solche Dokumente veröffentlicht — bei Anthropic heißt das Regelwerk « Constitution », also Verfassung.

Vom Satz im Regelwerk zum Verhalten des Modells

Ein Grundsatz allein ändert nichts. Er muss ins Training einfließen. Der übliche Weg führt über Vergleiche: Das System erzeugt zu einer Frage zwei Antworten. Menschen oder ein zweites Modell entscheiden, welche der beiden besser zum Grundsatz passt. Aus vielen solcher Urteile lernt das Modell, welche Art von Antwort bevorzugt wird.

Bei manchen Verfahren bewertet das Modell seine eigenen Antworten anhand der aufgeschriebenen Grundsätze und schreibt sie um. Man spart damit einen Großteil der teuren menschlichen Bewertungsarbeit. Der Text des Regelwerks wird so direkt zum Maßstab für das Training. Genau deshalb wird um die Formulierung einzelner Sätze intensiv gerungen.

Ein Grundproblem bleibt: Anker widersprechen sich regelmäßig. « Sei ehrlich » und « sei rücksichtsvoll » führen bei einer Frage nach einer schlechten Diagnose in verschiedene Richtungen. Deshalb enthalten gute Regelwerke eine Rangfolge. Sicherheit steht meist über Hilfsbereitschaft, Hilfsbereitschaft über Höflichkeit. Ein verbreiteter Irrtum ist, ein Value Anchor sei eine feste Sperre im Programmcode. Er ist eher eine antrainierte Neigung — und die lässt sich durch geschickt formulierte Anfragen manchmal umgehen.

Wo Werteanker sichtbar werden

Am deutlichsten merkt man sie, wenn ein Chatbot eine Antwort verweigert. Wer nach der Herstellung gefährlicher Stoffe fragt, bekommt eine Absage statt einer Anleitung. Auch der Hinweis « Ich bin kein Arzt, bitte wende dich an eine Praxis » geht auf einen solchen Grundsatz zurück. Umgekehrt zeigen sich Anker, wenn sie fehlen: Systeme ohne Sicherheitstraining beantworten praktisch alles.

In Nachrichten tauchen Value Anchors bei Streitfällen auf. Kritiker werfen Anbietern vor, ihre Systeme seien politisch einseitig oder zu vorsichtig. Beides sind Debatten über die Anker und ihre Rangfolge. Wenn eine Firma ihr Regelwerk ändert, ändert sich messbar das Verhalten der Produkte.

Auch Unternehmen, die KI einkaufen, achten darauf. Eine Bank will nicht, dass ein Assistent Kunden falsche Zinszusagen macht. Sie ergänzt die Anker des Anbieters um eigene Vorgaben. Das Prinzip bleibt dasselbe: erst aufschreiben, was gelten soll, dann prüfen, ob das System sich daran hält.