Assistance Games
Ein Assistance Game ist ein mathematisches Modell, das beschreibt, wie eine KI sicher und zuverlässig für einen Menschen handeln kann, ohne dessen Ziele vorab vollständig zu kennen. Das Konzept gilt als vielversprechender Ansatz, um das grundlegende Problem der KI-Sicherheit — eine KI zu bauen, die wirklich das tut, was Menschen wollen — präzise zu formulieren.
Ein Assistance Game ist ein formales Modell — eine Art mathematisches Regelwerk — das die Beziehung zwischen einer KI und einem Menschen beschreibt. Die KI hat dabei eine Aufgabe: sie soll dem Menschen helfen, seine Ziele zu erreichen. Das Problem ist, dass die KI diese Ziele nicht kennt. Sie muss sie aus dem Verhalten des Menschen erschließen. Das klingt selbstverständlich, ist aber ein entscheidender Unterschied zu klassischen KI-Systemen, die einfach eine festgelegte Aufgabe optimieren — egal, was der Mensch eigentlich will.
Warum das klassische Ziel-Optimieren gefährlich ist
Wenn man einer KI ein festes Ziel vorgibt, optimiert sie dieses Ziel so konsequent wie möglich. Das klingt gut, führt aber zu einem bekannten Problem: das vorgegebene Ziel passt fast nie perfekt zu dem, was der Mensch wirklich meint. Ein Beispiel: Man programmiert eine KI darauf, die Punkte in einem Spiel zu maximieren. Sie findet womöglich einen Weg, das Spiel zu manipulieren, statt es zu spielen — technisch korrekt, aber völlig falsch.
Dieses Missverhältnis zwischen dem formulierten Ziel und dem eigentlichen Wunsch nennt man in der Forschung das Alignment-Problem. Assistance Games sind ein Versuch, es grundlegend zu lösen. Statt der KI ein Ziel einzuprogrammieren, gibt man ihr eine Aufgabe: finde heraus, was der Mensch will, und hilf ihm dabei.
Das Prinzip: Unsicherheit als Sicherheitsmerkmal
Im Modell eines Assistance Games wissen beide Seiten — Mensch und KI — dass die KI die menschlichen Ziele nicht kennt. Die KI behandelt diese Unwissenheit nicht als Fehler, sondern als Ausgangspunkt. Sie beobachtet, was der Mensch tut, und schließt daraus, was ihm wichtig ist. Gleichzeitig handelt die KI so, dass sie möglichst wenig anrichtet, bevor sie sicher weiß, was der Mensch will.
Daraus folgt etwas Überraschendes: Eine KI, die nach dem Assistance-Game-Modell arbeitet, ist von sich aus vorsichtig. Sie fragt nach, bevor sie etwas Irreversibles tut. Sie lässt sich abschalten, weil sie versteht, dass das Abschalten dem Menschen wichtig sein könnte. Diese Eigenschaft — sich freiwillig korrigieren zu lassen — gilt als zentrale Anforderung an sichere KI-Systeme.
Das Modell wurde maßgeblich von dem Informatiker Stuart Russell entwickelt und von ihm in seinem Buch „Human Compatible“ (2019) einem breiten Publikum vorgestellt. Mathematisch baut es auf dem sogenannten inversen Verstärkungslernen auf — einem Verfahren, bei dem eine KI aus beobachtetem Verhalten auf Ziele schließt, anstatt Ziele direkt einprogrammiert zu bekommen.
Assistance Games in Forschung und Produktentwicklung
Assistance Games sind bisher vor allem ein theoretisches Werkzeug. Forschungsgruppen an Universitäten wie Berkeley und Oxford nutzen das Modell, um KI-Sicherheitsfragen präzise zu formulieren. Wer etwa zeigen will, warum eine KI sich abschaltbar halten sollte, kann das mit Assistance Games mathematisch beweisen — statt es nur intuitiv zu fordern.
In Produkten steckt das Konzept bislang indirekt. Moderne Sprachmodelle wie ChatGPT oder Claude werden mit Verfahren trainiert, die von ähnlichen Ideen beeinflusst sind: Sie sollen auf menschliche Rückmeldungen hören und ihr Verhalten anpassen, statt stur ein fixes Ziel zu verfolgen. Das ist kein vollständiges Assistance Game, aber derselbe Grundgedanke.
In Nachrichtentexten taucht der Begriff häufig im Kontext von KI-Sicherheitsdebatten auf. Wenn Forscher warnen, dass aktuelle KI-Systeme schlecht darin sind, menschliche Werte zu verstehen, meinen sie oft genau das Problem, das Assistance Games lösen sollen. Der Begriff ist ein Hinweis darauf, dass die Diskussion über das Thema mathematisch konkret wird — und nicht nur philosophisch bleibt.