Trust Score
Ein Trust Score ist eine Zahl, die angibt, wie vertrauenswürdig ein Nutzer, ein Anbieter oder ein Inhalt eingeschätzt wird. Er wird automatisch aus vielen einzelnen Beobachtungen berechnet und steuert, wem ein System etwas erlaubt und wem nicht.
Ein Trust Score ist eine Zahl, die ausdrückt, für wie vertrauenswürdig ein Computersystem jemanden oder etwas hält. Bewertet werden können Menschen, Firmen, einzelne Beiträge oder auch Geräte. Die Skala reicht typischerweise von 0 bis 100 oder von 0 bis 1. Ein hoher Wert bedeutet: Hier spricht wenig gegen dich. Ein niedriger Wert bedeutet: Hier gibt es Auffälligkeiten, also schau genauer hin. Die Zahl entsteht nicht durch ein Urteil eines Menschen, sondern durch eine Rechenregel, die viele einzelne Beobachtungen zusammenfasst.
Warum aus Vertrauen eine Zahl wird
Große Plattformen können nicht jeden Fall einzeln prüfen. Auf einem Marktplatz entstehen täglich Millionen Angebote, in sozialen Netzen Milliarden Beiträge. Menschen könnten diese Menge niemals durchsehen. Eine Zahl dagegen lässt sich sofort mit einer Grenze vergleichen. Alles unterhalb der Grenze wird blockiert oder an einen Menschen weitergereicht, alles darüber läuft ohne Reibung durch.
Der zweite Grund ist Geld. Betrug kostet Zahlungsdienstleister und Onlinehändler jedes Jahr Milliarden. Wer betrügerische Bestellungen früh erkennt, spart sich Rückbuchungen und Rechtsstreit. Gleichzeitig darf die Prüfung nicht zu streng sein: Jeder ehrliche Kunde, der fälschlich abgelehnt wird, ist verlorener Umsatz. Der Trust Score ist der Regler zwischen diesen beiden Fehlern.
Wichtig ist die Abgrenzung zur Schufa oder zu einem Kreditscore. Dort geht es um die Frage, ob jemand eine Rechnung bezahlen kann. Beim Trust Score geht es um die Frage, ob jemand ehrlich handelt. Beides sind Punktwerte, aber sie messen völlig verschiedene Dinge.
Woraus sich die Punktzahl zusammensetzt
Die Grundlage sind Signale, also einzelne beobachtbare Fakten. Bei einem Verkäuferkonto zählen dazu das Alter des Kontos, die Zahl abgeschlossener Verkäufe, Beschwerdequoten und Rückerstattungen. Bei einer Zahlung kommen technische Signale dazu: das benutzte Gerät, der ungefähre Ort, die Tageszeit, die Tippgeschwindigkeit im Formular. Einzeln sagt keines dieser Signale viel aus. Erst ihre Kombination ergibt ein Muster.
Die Verrechnung übernimmt in einfachen Fällen eine feste Formel mit Gewichten. Häufiger arbeitet heute ein trainiertes Modell, also ein Programm, das aus vielen alten Fällen gelernt hat. Man zeigt ihm Millionen abgeschlossene Vorgänge mit dem bekannten Ausgang, also Betrug oder kein Betrug. Das Modell sucht darin selbst die Merkmale, die typischerweise zusammen auftreten. Neue Fälle ordnet es dann in dieses Muster ein und gibt eine Wahrscheinlichkeit aus, die als Score angezeigt wird.
Ein häufiger Irrtum ist, der Score sei eine objektive Messung. Er ist eine Schätzung auf Basis der Vergangenheit. Waren die Trainingsdaten schief, übernimmt das Modell diese Schieflage. Wurden früher etwa Bestellungen aus bestimmten Regionen besonders oft geprüft, tauchen dort mehr entdeckte Betrugsfälle auf. Das Modell hält die Region dann für verdächtig, obwohl nur häufiger hingesehen wurde. Solche Rückkopplungen sind der schwierigste Teil der Arbeit an solchen Systemen.
Trust Scores im Alltag und in den Nachrichten
Am sichtbarsten sind Trust Scores dort, wo Fremde miteinander handeln. Buchungsportale, Kleinanzeigen und Fahrdienste zeigen Verkäufer- oder Fahrerbewertungen an, hinter denen ein interner Wert steht. Unsichtbar arbeiten sie bei jedem Onlinekauf mit: Ob eine Kartenzahlung sofort durchgeht, eine zusätzliche Bestätigung per App verlangt wird oder ganz abgelehnt wird, entscheidet oft ein solcher Wert in wenigen Millisekunden.
In der Berichterstattung tauchen Trust Scores vor allem bei zwei Themen auf. Erstens beim Umgang mit Falschinformationen, wo Plattformen Quellen und Konten bewerten, um Reichweite zu steuern. Zweitens bei der Regulierung: Die europäische KI-Verordnung verlangt für Systeme, die über den Zugang von Menschen zu Leistungen entscheiden, Nachvollziehbarkeit und die Möglichkeit einer menschlichen Überprüfung.
Als Nutzer bekommt man den eigenen Wert selten zu sehen. Spürbar wird er indirekt, etwa wenn plötzlich der Kauf auf Rechnung fehlt oder ein Konto nach einem Umzug ins Ausland gesperrt wird. In vielen Fällen besteht ein Auskunftsrecht über die verarbeiteten Daten. Die genaue Rechenregel geben Anbieter allerdings nur ungern preis, weil sie sich sonst gezielt austricksen ließe.