Data Provenance
Data Provenance bezeichnet die lückenlose Dokumentation, woher ein Datensatz stammt, wie er verarbeitet wurde und wer ihn verändert hat. Für KI-Modelle ist das entscheidend: Wer weiß, womit ein Modell trainiert wurde, kann Fehler, Verzerrungen und Rechtsprobleme besser erkennen und beheben.
Jeder Datensatz hat eine Geschichte: Er wurde irgendwo erhoben, möglicherweise mehrfach bearbeitet, mit anderen Daten zusammengeführt und schließlich zum Training eines Modells verwendet. Data Provenance bedeutet, diese Geschichte vollständig aufzuzeichnen. Man dokumentiert die Herkunft der Daten, jeden Schritt der Verarbeitung und jeden Akteur, der die Daten angefasst hat. Das Ziel ist Nachvollziehbarkeit: Wer später ein Problem entdeckt, kann den Weg zurückverfolgen und den Ursprung des Problems finden — ähnlich wie eine Lieferkette in der Industrie, die zu jeder Schraube den Hersteller kennt. Ohne diese Dokumentation ist ein Datensatz wie eine anonyme Akte ohne Stempel und Unterschrift.
Warum fehlerhafte Herkunft Modelle ruiniert
KI-Modelle lernen ausschließlich aus den Daten, die man ihnen gibt. Sind diese Daten einseitig, falsch oder unrechtmäßig erhoben, übernimmt das Modell diese Mängel. Ein Modell, das mit Texten aus einer bestimmten Quelle trainiert wurde, wird deren Perspektive bevorzugen — auch wenn das nie beabsichtigt war.
Ohne Data Provenance merkt man dieses Problem oft gar nicht. Man weiß nicht, woher die Daten kamen, und kann deshalb nicht beurteilen, ob sie repräsentativ waren. Erst wenn das Modell falsche oder diskriminierende Ergebnisse liefert, wird der Fehler sichtbar — dann aber ist er schwer zu lokalisieren. Mit sauberer Dokumentation hingegen lässt sich der Fehler auf einen konkreten Datensatz zurückführen und gezielt beheben.
Hinzu kommen rechtliche Fragen. In der Europäischen Union schreibt die Datenschutz-Grundverordnung vor, dass personenbezogene Daten nur mit Erlaubnis genutzt werden dürfen. Wer nicht dokumentiert hat, wo seine Trainingsdaten herkommen, kann im Streitfall nicht beweisen, dass er diese Erlaubnis hatte. Data Provenance ist deshalb nicht nur ein technisches Gütemerkmal, sondern auch eine rechtliche Absicherung.
Wie Herkunft technisch erfasst wird
In der Praxis werden Metadaten gespeichert: Informationen über die Daten selbst. Dazu gehören die Quelle (z. B. eine Webseite oder eine Datenbank), der Zeitpunkt der Erhebung, wer sie erhoben hat und welche Verarbeitungsschritte seitdem stattgefunden haben. Jede Veränderung — das Entfernen von Duplikaten, das Übersetzen von Texten, das Anonymisieren von Namen — wird als eigener Schritt protokolliert.
Für große KI-Projekte gibt es inzwischen standardisierte Formate für diese Protokolle. Ein bekanntes Konzept sind sogenannte Datasheets for Datasets: strukturierte Dokumente, in denen Ersteller eines Datensatzes festhalten, für welchen Zweck die Daten gesammelt wurden, wer sie erheben durfte und welche bekannten Einschränkungen sie haben. Diese Dokumente begleiten den Datensatz wie ein Beipackzettel.
Eine technisch aufwendigere Variante nutzt sogenannte Graphdatenbanken, die jeden Schritt der Datenverarbeitung als Knoten in einem Netzwerk speichern. So entsteht ein vollständiger, maschinenlesbarer Stammbaum der Daten. Werkzeuge wie Apache Atlas oder OpenLineage sind auf genau diesen Zweck spezialisiert.
Data Provenance in aktuellen KI-Debatten
Seit große Sprachmodelle wie GPT oder Gemini öffentlich diskutiert werden, steht Data Provenance im Zentrum mehrerer Streitigkeiten. Verlage, Autoren und Nachrichtenagenturen klagen gegen KI-Unternehmen, weil ihre Texte ohne Erlaubnis als Trainingsdaten verwendet wurden. Die Unternehmen können oft nicht lückenlos belegen, welche Inhalte in welcher Form in ihre Modelle geflossen sind — ein direktes Ergebnis fehlender Provenance-Dokumentation.
Der EU AI Act, das erste umfassende KI-Gesetz der Welt, das seit 2024 schrittweise gilt, verlangt von Anbietern sogenannter Hochrisiko-KI-Systeme eine detaillierte Dokumentation der Trainingsdaten. Wer diese Dokumentation nicht vorweisen kann, darf sein System in der EU nicht vermarkten. Data Provenance ist damit aus einer freiwilligen Best Practice eine gesetzliche Pflicht geworden.
Auch im Unternehmensbereich gewinnt das Thema an Bedeutung. Banken und Versicherungen nutzen KI-Modelle für Kreditentscheidungen oder Risikoeinschätzungen. Wenn ein Modell dort ein falsches Ergebnis liefert, müssen die Verantwortlichen erklären können, wie es zustande kam — und das geht nur, wenn die Herkunft und Verarbeitung der Daten vollständig dokumentiert ist.