Nutzenfunktion

Eine Nutzenfunktion ist eine Rechenvorschrift, die jedem möglichen Ergebnis eine Zahl zuordnet. Diese Zahl sagt, wie erstrebenswert das Ergebnis ist: je höher, desto besser. Der Begriff stammt aus der Wirtschaftswissenschaft, wird heute aber vor allem in Computerprogrammen verwendet, die selbst Entscheidungen treffen. Ein Beispiel: Ein Lieferdienst bewertet jede mögliche Route mit einer Zahl, die aus Fahrzeit, Spritkosten und Pünktlichkeit entsteht. Das Programm wählt dann die Route mit der höchsten Zahl. Der Sinn dahinter ist, dass sich völlig verschiedene Dinge — Minuten, Euro, Zufriedenheit — auf einer einzigen Skala vergleichen lassen.

Warum Maschinen eine Zahl brauchen, um zu wählen

Ein Computer kann nicht abwägen, wie ein Mensch das tut. Er kann nur rechnen und vergleichen. Damit ein Programm eine Wahl trifft, müssen alle Optionen auf derselben Skala liegen. Genau das leistet die Nutzenfunktion: Sie übersetzt Ziele in Zahlen.

Das erzwingt eine unangenehme Ehrlichkeit. Wer eine Nutzenfunktion schreibt, muss festlegen, wie viel eine Minute Zeitersparnis im Vergleich zu einem Euro Kosten wert ist. Menschen drücken sich vor solchen Festlegungen gerne. Ein Programm kann das nicht — irgendein Verhältnis steht am Ende immer in der Formel.

Deshalb ist die Nutzenfunktion oft die wichtigste Designentscheidung eines Systems. Sie legt fest, worauf das System tatsächlich hinarbeitet. Wer sie schlecht formuliert, bekommt ein Programm, das seine Vorgabe perfekt erfüllt und trotzdem etwas Unsinniges tut. Fachleute nennen das Fehlanreiz oder Zielverfehlung.

Von der Formel zur Entscheidung

Im einfachsten Fall ist eine Nutzenfunktion eine gewichtete Summe. Man nimmt mehrere Messwerte, multipliziert jeden mit einem Gewicht und addiert alles. Ein Streamingdienst könnte rechnen: Nutzen gleich zwei mal erwartete Sehdauer minus eins mal Ladezeit. Die Gewichte entscheiden, was dem Betreiber wichtiger ist.

Meist ist das Ergebnis einer Handlung aber unsicher. Dann rechnet man mit dem Erwartungswert: Man multipliziert den Nutzen jedes möglichen Ausgangs mit seiner Wahrscheinlichkeit und addiert die Ergebnisse. Ein Lottoschein für zwei Euro hat einen positiven Gewinn nur in einem sehr unwahrscheinlichen Fall. Über alle Fälle gemittelt ist sein erwarteter Nutzen negativ. Deshalb würde ein rein rechnendes System nicht spielen.

In der KI taucht dasselbe Prinzip unter anderem Namen auf. Beim bestärkenden Lernen, bei dem ein Programm durch Ausprobieren besser wird, heißt die Bewertungsvorschrift Belohnungsfunktion. Sie gibt nach jeder Aktion einen Punktwert, und das Programm sucht die Strategie mit der höchsten Punktsumme. Verwandt ist auch die Verlustfunktion beim Training neuronaler Netze — nur misst sie Fehler statt Nutzen, wird also minimiert statt maximiert.

Nutzenfunktionen in Produkten und in der Debatte um KI-Sicherheit

Jede Empfehlung, die dir ein Onlineshop oder eine Videoplattform anzeigt, steht am Ende einer solchen Bewertung. Das System schätzt für viele Kandidaten einen Wert und zeigt die besten. Auch Handelssysteme an der Börse, Routenplaner und Anzeigenauktionen arbeiten so. Wenn in Wirtschaftsnachrichten steht, eine Plattform habe ihren Algorithmus umgestellt, sind meist die Gewichte in dieser Formel gemeint.

Genau daran hängt viel Kritik. Optimiert eine Plattform vor allem auf Verweildauer, belohnt die Formel aufregende und polarisierende Inhalte. Das war nicht das Ziel, aber es ist die Konsequenz der gewählten Zahl. Eine Nutzenfunktion misst immer nur das, was messbar ist — nicht unbedingt das, was zählt.

In der Diskussion um sichere KI spielt der Begriff eine zentrale Rolle. Die Frage, ob sich menschliche Werte überhaupt vollständig in eine Nutzenfunktion übersetzen lassen, ist offen. Ein häufiger Irrtum ist übrigens, große Sprachmodelle hätten eine solche Funktion fest eingebaut. Sie sagen zunächst nur wahrscheinliche Wörter vorher. Erst Nachtrainings-Verfahren mit menschlichem Feedback bringen eine ausdrückliche Bewertung ins Spiel.