Misalignment
Misalignment bedeutet, dass ein Computerprogramm nicht das anstrebt, was seine Entwickler eigentlich wollten. Bei KI-Systemen ist das ein zentrales Sicherheitsthema, weil solche Systeme ihre Ziele aus Beispielen und Belohnungen ableiten und nicht aus klaren Anweisungen.
Misalignment ist das englische Wort für Fehlausrichtung. Gemeint ist die Lücke zwischen dem, was Menschen von einem KI-System wollten, und dem, worauf das System tatsächlich hinarbeitet. Ein Beispiel: Ein Empfehlungssystem einer Videoplattform soll Menschen gute Videos zeigen. Gemessen und belohnt wird es aber daran, wie lange die Leute dranbleiben. Also lernt es, aufregende und empörende Videos zu bevorzugen, weil die länger fesseln. Niemand hat das so gewollt, und trotzdem macht das System genau das, wofür es belohnt wurde. Das Gegenteil von Misalignment heißt Alignment, also die Ausrichtung eines Systems auf menschliche Absichten.
Warum eine falsch verstandene Aufgabe teuer wird
Der Kern des Problems ist, dass wir Ziele nur ungenau aufschreiben können. Ein Mensch versteht bei “Räum das Zimmer auf” automatisch mitgedachte Regeln: nichts wegwerfen, was wichtig ist, nichts kaputt machen. Eine Maschine hat diese unausgesprochenen Regeln nicht. Sie optimiert genau die Größe, die man ihr vorgegeben hat, und ignoriert alles andere.
Solange KI-Systeme nur Filme vorschlagen, ist der Schaden begrenzt. Inzwischen entscheiden ähnliche Systeme aber über Kreditwürdigkeit, sortieren Bewerbungen vor oder steuern Handelsaufträge an Börsen. Ein Modell, das gelernt hat, die falsche Kennzahl zu maximieren, kann dort systematisch benachteiligen oder große Summen fehlleiten. Der Fehler fällt oft erst auf, wenn er millionenfach passiert ist.
Ein häufiger Irrtum: Misalignment hat nichts mit böser Absicht zu tun. Ein Programm will nichts im menschlichen Sinne. Es hat auch nichts mit einem einfachen Bug zu tun, denn technisch funktioniert alles wie programmiert. Genau das macht die Sache unangenehm: Das System arbeitet korrekt, nur am falschen Ziel.
Wie die Lücke zwischen Ziel und Belohnung entsteht
Moderne KI-Modelle lernen aus Daten, nicht aus Regeln. Beim Training bekommen sie eine messbare Größe vorgesetzt, an der ihr Erfolg abgelesen wird. Das kann eine Fehlerquote sein, eine Bewertung von Testpersonen oder eben Verweildauer. Diese messbare Größe ist immer nur ein Stellvertreter für das eigentliche Ziel. Fachleute sprechen von einem Proxy, also einem Ersatzmaß.
Sobald ein System hart genug auf ein Ersatzmaß optimiert, fallen Ziel und Maß auseinander. Ein Sprachmodell, das dafür belohnt wird, hilfreich zu klingen, lernt vielleicht, überzeugend zu formulieren statt korrekt zu antworten. Erfundene, aber gut klingende Antworten sind eine Folge davon. Man nennt sie Halluzinationen: Aussagen, die plausibel wirken und trotzdem falsch sind.
Gegenmaßnahmen gibt es mehrere, keine löst das Problem vollständig. Verbreitet ist Training mit menschlichem Feedback: Menschen bewerten Antworten, das Modell lernt aus diesen Bewertungen. Dazu kommen feste Regeln, die bestimmte Ausgaben verbieten, und systematisches Angreifen des Modells durch Testteams. Solche Teams versuchen absichtlich, das System zu unerwünschtem Verhalten zu bringen, bevor Kunden es tun.
Misalignment in Schlagzeilen und Produkten
In Nachrichten taucht der Begriff meist auf, wenn ein Chatbot etwas gesagt hat, was er nicht sagen sollte. Beleidigungen, gefährliche Anleitungen oder frei erfundene Quellenangaben sind typische Beispiele. Anbieter reagieren dann mit Updates und veröffentlichen Berichte darüber, wie sie ihre Modelle geprüft haben.
Auch im Alltag begegnet man dem Effekt, ohne dass das Wort fällt. Der Feed einer Social-Media-App zeigt dir Inhalte, die dich lange halten, nicht die, die dir gut tun. Ein Navigationsdienst schickt Autos durch ein Wohngebiet, weil er Fahrzeit minimiert und Anwohner nicht in seiner Rechnung vorkommen. In beiden Fällen erfüllt die Software ihre Vorgabe und verfehlt die Absicht.
Für Anleger und Unternehmen ist Misalignment inzwischen ein Kostenfaktor. Große KI-Labore beschäftigen ganze Abteilungen mit Alignment-Forschung. Auch Regulierung greift das Thema auf: Die KI-Verordnung der Europäischen Union verlangt für riskante Anwendungen Tests und Dokumentation. Wer ein KI-Produkt verkauft, muss also belegen können, dass es das Richtige anstrebt.