AI Governance
AI Governance bezeichnet alle Regeln, Zuständigkeiten und Kontrollen, mit denen ein Unternehmen oder ein Staat den Einsatz künstlicher Intelligenz steuert. Es geht nicht um die Technik selbst, sondern um die Frage, wer entscheidet, wer haftet und was erlaubt ist.
Wenn eine Organisation Software einsetzt, die selbstständig Entscheidungen vorbereitet oder trifft, entstehen heikle Fragen. Wer darf so ein System überhaupt einsetzen? Wer prüft vorher, ob es zuverlässig arbeitet? Wer haftet, wenn es Schaden anrichtet? AI Governance ist die Antwort auf diese Fragen in Form von festen Regeln. Dazu gehören schriftliche Richtlinien, klare Zuständigkeiten und regelmäßige Kontrollen. Der Begriff kommt aus dem Englischen und bedeutet ungefähr „Steuerung und Aufsicht“. Gemeint ist also die organisatorische Seite, nicht die Programmierung.
Warum das wichtig ist
Ein Beispiel macht das Problem deutlich. Eine Bank lässt eine Software vorsortieren, welche Kreditanträge bewilligt werden. Lehnt diese Software systematisch Menschen aus bestimmten Stadtteilen ab, ist das ein Rechtsverstoß. Die Bank kann sich nicht darauf berufen, dass der Computer schuld war. Genau deshalb brauchen Unternehmen nachweisbare Abläufe.
Hinzu kommt Druck vom Gesetzgeber. Die Europäische Union hat 2024 ein KI-Gesetz beschlossen, den AI Act. Es teilt Anwendungen nach Risiko ein und verlangt bei riskanten Anwendungen Dokumentation, Tests und menschliche Aufsicht. Wer das nicht liefern kann, riskiert hohe Bußgelder. Für Investoren ist AI Governance deshalb auch eine Frage des Geschäftsrisikos.
Wie funktioniert es?
In der Praxis besteht AI Governance meist aus vier Bausteinen. Erstens ein Verzeichnis: Das Unternehmen listet auf, welche KI-Systeme überhaupt im Einsatz sind. Oft ist schon dieser Schritt aufwendig, weil einzelne Abteilungen eigene Werkzeuge nutzen. Zweitens eine Risikoeinschätzung für jedes System. Ein Chatbot, der Urlaubsanträge beantwortet, ist harmlos. Eine Software, die Bewerbungen aussortiert, ist es nicht.
Drittens Regeln für den Betrieb. Dazu gehört, welche Daten verwendet werden dürfen und wann ein Mensch das Ergebnis prüfen muss. Viertens die laufende Überwachung. Modelle werden mit der Zeit schlechter, weil sich die Wirklichkeit verändert. Ein System, das 2023 gut funktionierte, kann 2026 daneben liegen. Deshalb wird die Trefferquote regelmäßig gemessen.
Der Vergleich mit der Buchhaltung trägt hier gut. Niemand erwartet, dass Zahlen einfach stimmen. Es gibt Vorschriften, Belege und Prüfer. AI Governance überträgt diese Idee auf KI-Systeme: Vertrauen ersetzt man durch Nachweise.
Wo man dem Begriff begegnet
In Stellenanzeigen tauchen inzwischen Titel wie „AI Governance Manager“ auf. Große Konzerne haben eigene Gremien, die neue KI-Projekte freigeben oder ablehnen. In Geschäftsberichten steht AI Governance im Kapitel über Risiken, oft neben Datenschutz und IT-Sicherheit.
In Wirtschaftsnachrichten begegnet der Begriff meist in zwei Zusammenhängen. Entweder geht es um neue Gesetze, etwa den europäischen AI Act. Oder es geht um einen Zwischenfall, bei dem ein KI-System Unsinn produziert oder Menschen benachteiligt hat. Dann lautet die Frage regelmäßig, ob die Kontrollen versagt haben oder ganz fehlten.
Auch als Schüler stößt man darauf. Wenn eine Schule festlegt, für welche Aufgaben Chatbots erlaubt sind und wie ihr Einsatz kenntlich gemacht wird, ist das im Kern dasselbe Prinzip. Nur eben in kleinem Maßstab.