Economic Alignment Score

Der Economic Alignment Score ist eine Bewertungszahl. Sie soll ausdrücken, wie gut ein Computerprogramm, das selbstständig Entscheidungen trifft, im wirtschaftlichen Interesse derjenigen handelt, für die es arbeitet. Das können Kundinnen und Kunden sein, ein Unternehmen oder auch beide gleichzeitig. Die Idee dahinter: Ein System kann technisch einwandfrei funktionieren und trotzdem Entscheidungen treffen, die dem Auftraggeber schaden. Ein Einkaufsprogramm etwa bestellt zuverlässig, aber immer beim teuersten Anbieter. Der Score versucht, genau diesen Unterschied zwischen 'läuft fehlerfrei' und 'nützt mir wirtschaftlich' in eine Zahl zu fassen. Ein fester, weltweit einheitlicher Standard ist das bislang nicht.

Wenn Software über Geld entscheidet

Immer mehr Programme treffen Entscheidungen, die direkt Geld kosten oder einbringen. Sie schlagen Versicherungen vor, setzen Preise fest, verteilen Werbebudgets oder handeln mit Aktien. Bei solchen Aufgaben reicht die übliche Frage 'Wie oft liegt das System richtig?' nicht mehr aus. Entscheidend ist, wessen Vorteil am Ende herauskommt.

Denn Interessen laufen oft auseinander. Ein Vergleichsportal verdient an Provisionen, die Nutzerin will das günstigste Angebot. Ein Empfehlungssystem soll Nutzer möglichst lange auf einer Plattform halten, was für die Nutzer selbst kein Gewinn ist. Ohne eine Kennzahl bleibt so ein Zielkonflikt unsichtbar. Der Score macht ihn zumindest ansprechbar.

Für Aufsichtsbehörden und Investoren ist das interessant. Eine Zahl lässt sich in Verträge schreiben, in Berichte aufnehmen und über Zeit vergleichen. Kritiker halten dagegen, dass eine einzige Zahl viel zu grob ist. Sie verdeckt, welche Annahmen bei der Berechnung getroffen wurden.

Wie aus Entscheidungen eine Zahl wird

Am Anfang steht immer eine Festlegung: Was gilt überhaupt als wirtschaftlicher Nutzen? Das kann eingesparter Betrag sein, erzielter Gewinn, vermiedener Schaden oder eine Mischung daraus. Diese Größe nennt man in der Wirtschaftswissenschaft Nutzenfunktion, also eine Rechenregel, die jedem Ergebnis einen Wert zuordnet. Ohne diese Festlegung ist kein Score berechenbar.

Dann vergleicht man das tatsächliche Verhalten mit einem Idealfall. Der Idealfall ist die Entscheidung, die im Nachhinein betrachtet die beste gewesen wäre. Die Differenz zwischen beidem heißt Bedauern oder englisch Regret. Je kleiner dieses Bedauern über viele Entscheidungen hinweg, desto höher fällt der Score aus. Meist wird er auf eine Skala von 0 bis 100 gebracht, damit man Systeme nebeneinanderstellen kann.

Getestet wird häufig mit historischen Daten oder in einer Simulation. Man lässt das System auf vergangene Fälle los und rechnet aus, was seine Entscheidungen gekostet hätten. Ein typischer Irrtum ist, den Score mit Genauigkeit zu verwechseln. Ein Modell kann in 99 von 100 Fällen richtigliegen und trotzdem schlecht abschneiden, wenn der eine Fehler ein Millionengeschäft betraf.

Wo die Kennzahl auftaucht

Am häufigsten liest man den Begriff in Berichten aus der Finanzbranche. Banken und Fondsgesellschaften setzen KI für Handelsentscheidungen und Kreditprüfungen ein und müssen belegen, dass diese Systeme im Sinne der Kunden arbeiten. Auch bei Versicherungen und Vergleichsportalen wird darüber diskutiert. Dort geht es um die Frage, ob eine Empfehlung wirklich neutral ist.

Ein zweites Feld sind sogenannte KI-Agenten, also Programme, die eigenständig mehrere Schritte hintereinander ausführen. Ein solcher Agent bucht eine Reise, verhandelt einen Vertrag oder verwaltet Werbeausgaben. Weil niemand jeden Zwischenschritt prüft, braucht es eine zusammenfassende Bewertung am Ende.

Wichtig ist die Abgrenzung zum allgemeinen Begriff Alignment. Der meint, dass eine KI menschliche Absichten und Werte insgesamt beachtet, auch ethische. Der Economic Alignment Score betrachtet nur den finanziellen Ausschnitt davon. Ein System kann wirtschaftlich hervorragend ausgerichtet sein und trotzdem unfair handeln. Wer die Zahl liest, sollte deshalb immer fragen, wessen Nutzen darin gemessen wurde.