Attribution Engineering

Moderne KI-Systeme geben Antworten, ohne ihre Gründe mitzuliefern. Man sieht die Eingabe und das Ergebnis, aber nicht den Weg dazwischen. Attribution Engineering ist die praktische Arbeit, diesen Weg trotzdem sichtbar zu machen. Gemeint ist eine Sammlung von Verfahren, die eine einzelne Ausgabe auf ihre Ursachen zurückführen. Solche Ursachen können bestimmte Beispiele aus dem Lernmaterial sein, mit dem das System aufgebaut wurde. Sie können aber auch einzelne Bauteile im Inneren des Systems sein, die für diese eine Antwort besonders aktiv waren.

Warum Firmen wissen wollen, woher eine Antwort stammt

Der offensichtlichste Grund ist Verantwortung. Wenn eine KI in einer Bank einen Kredit ablehnt, muss jemand erklären können, warum. Ohne Attribution bleibt nur der Satz: Das Modell hat es so entschieden. Das reicht weder für Kunden noch für Aufsichtsbehörden.

Der zweite Grund ist Geld. Verlage und Künstler streiten vor Gericht darüber, ob ihre Werke ungefragt zum Training benutzt wurden. Wer zeigen kann, dass eine konkrete Ausgabe stark von einem bestimmten Text abhängt, hat ein starkes Argument. Umgekehrt wollen KI-Firmen belegen können, dass eine Antwort eben nicht aus einer einzelnen geschützten Quelle stammt.

Der dritte Grund ist Qualität. Wenn ein Modell falsche Dinge behauptet, will man die Ursache finden und nicht nur das Symptom. Manchmal steckt hinter einem Fehler eine einzelne fehlerhafte Quelle im Lernmaterial. Findet man sie, kann man sie entfernen und neu trainieren. Das ist gezielter als der übliche Weg, dem Modell nachträglich Verhaltensregeln beizubringen.

Von Einflussfunktionen bis zum Blick ins Modellinnere

Ein erster Ansatz heißt Einflussfunktion. Die Idee dahinter ist eine gedankliche Was-wäre-wenn-Frage. Man schätzt rechnerisch, wie sich die Antwort verändert hätte, wenn ein bestimmtes Trainingsbeispiel gefehlt hätte. Ändert sich viel, war dieses Beispiel einflussreich. Man muss das Modell dafür nicht wirklich neu trainieren, was Jahre und Millionen kosten würde.

Ein zweiter Ansatz schaut nicht auf die Daten, sondern ins Innere. Ein Sprachmodell besteht aus Millionen kleiner Recheneinheiten, die Signale weiterreichen. Attribution verfolgt, welche dieser Einheiten bei einer bestimmten Antwort tatsächlich den Ausschlag gaben. Das ähnelt einer Fehlersuche in einer Schaltung: Man misst, an welchen Stellen Strom fließt, wenn eine bestimmte Lampe angeht.

Alle diese Verfahren liefern Schätzungen, keine Beweise. Das ist der häufigste Irrtum bei dem Thema. Ein hoher Einflusswert bedeutet nur, dass eine Quelle statistisch stark mit der Antwort zusammenhängt. Meist verteilt sich der Einfluss zudem auf tausende Beispiele gleichzeitig. Eine einzelne saubere Quellenangabe ist deshalb selten realistisch.

Quellenangaben in Chatbots und die Debatte um Urheberrecht

Am sichtbarsten wird das Thema bei Chatbots, die Links zu ihren Aussagen anzeigen. Wichtig ist hier eine Abgrenzung: Diese Links stammen meist aus einer Websuche, die während der Anfrage läuft. Das System zeigt also, wo es gerade nachgeschlagen hat, nicht, was es einmal gelernt hat. Echtes Attribution Engineering zielt auf die tiefere Frage nach dem Lernmaterial.

In den Nachrichten taucht der Begriff vor allem im Umfeld von Urheberrechtsprozessen auf. Klagen von Zeitungen und Autoren gegen KI-Anbieter drehen sich genau um diese Nachvollziehbarkeit. Parallel verlangt die KI-Verordnung der Europäischen Union von Anbietern große Transparenz über ihre Trainingsdaten. Auch Vorschläge, Urheber anteilig zu vergüten, setzen ein funktionierendes Attributionsverfahren voraus.

In Unternehmen ist Attribution Engineering ein wachsendes Berufsfeld. Es liegt zwischen Forschung, Softwareentwicklung und Rechtsabteilung. Wer dort arbeitet, baut Werkzeuge, mit denen Prüfer einzelne Modellausgaben untersuchen können. Der Bedarf steigt, weil KI zunehmend in Medizin, Versicherung und Verwaltung eingesetzt wird.