Carolina-Prinzipien

Die Carolina-Prinzipien sind eine kurze Liste von Leitsätzen für den Umgang mit künstlicher Intelligenz. Gemeint sind damit Computerprogramme, die Texte schreiben, Bilder erzeugen oder Entscheidungen vorschlagen. Die Liste entstand 2023 an der University of North Carolina at Chapel Hill, deren Spitzname « Carolina » den Namen erklärt. Sie ist kein Gesetz und bindet niemanden rechtlich. Es handelt sich um eine freiwillige Selbstverpflichtung, an der sich eine Hochschule und ihre Mitglieder orientieren können. Kernaussage ist: Neue Technik darf genutzt werden, aber nicht blind und nicht ohne Verantwortung.

Warum eine Universität sich eigene Regeln gibt

Ende 2022 kamen Chatbots wie ChatGPT auf den Markt und waren binnen Wochen überall. Hochschulen standen vor einem Problem: Ihre Prüfungsordnungen kannten diese Werkzeuge schlicht nicht. Ein Aufsatz, der in zehn Sekunden entsteht, passt in keine Regel, die für Bibliotheksarbeit geschrieben wurde. Viele Einrichtungen reagierten zunächst mit Verboten.

Die Carolina-Prinzipien wählten den anderen Weg. Statt eines Verbots setzen sie auf Offenlegung und Nachdenken. Wer KI benutzt, soll es sagen und die Verantwortung für das Ergebnis behalten. Dahinter steht die nüchterne Einschätzung, dass Verbote in der Praxis kaum durchsetzbar sind. Kein Prüfer kann zuverlässig erkennen, ob ein Text von einem Menschen stammt.

Die Prinzipien wurden über die Universität hinaus bekannt, weil sie früh und knapp formuliert waren. Andere Hochschulen im In- und Ausland haben sie als Vorlage für eigene Regelwerke genommen. In Debatten über KI in der Bildung tauchen sie deshalb bis heute als Bezugspunkt auf.

Was in den Leitsätzen konkret steht

Der wichtigste Grundsatz betrifft die Transparenz. Wer KI für eine Hausarbeit, eine Präsentation oder eine Verwaltungsentscheidung einsetzt, soll das kenntlich machen. Damit bleibt für andere nachvollziehbar, wie ein Ergebnis zustande kam. Verschwiegener Einsatz gilt als Täuschung, offengelegter Einsatz in der Regel nicht.

Ein zweiter Punkt ist die menschliche Verantwortung. Ein Chatbot erfindet gelegentlich Quellen, Zahlen oder ganze Zitate, die überzeugend klingen und trotzdem falsch sind. Fachleute nennen das Halluzination. Nach den Carolina-Prinzipien haftet immer der Mensch, der das Ergebnis abgibt, niemals das Programm. « Die KI hat das geschrieben » ist damit keine Entschuldigung.

Weitere Leitsätze betreffen Datenschutz und Fairness. Vertrauliche Daten, etwa Noten oder Gesundheitsangaben, gehören nicht in einen Chatbot, dessen Betreiber die Eingaben mitlesen könnte. Und weil KI-Systeme aus alten Daten lernen, können sie alte Benachteiligungen wiederholen. Wer sie bei Bewerbungen oder Zulassungen einsetzt, muss das prüfen. Zuletzt fordern die Prinzipien, dass niemand ausgeschlossen wird, nur weil er sich ein kostenpflichtiges Werkzeug nicht leisten kann.

Vom Hörsaal in Unternehmensrichtlinien

Am unmittelbarsten begegnen die Prinzipien Schülern und Studierenden in Merkblättern zum Thema Hausarbeiten. Formulierungen wie « KI-Einsatz ist erlaubt, muss aber im Anhang dokumentiert werden » gehen häufig auf dieses Vorbild zurück. Auch deutsche Universitäten arbeiten inzwischen mit sehr ähnlichen Regeln.

In Wirtschaftsnachrichten taucht der Begriff auf, wenn es um Selbstverpflichtungen von Unternehmen geht. Viele Firmen haben eigene KI-Richtlinien, die denselben Aufbau haben: offenlegen, prüfen, Verantwortung behalten, keine sensiblen Daten eingeben. Fachleute nennen so etwas Soft Law, also Regeln ohne Strafandrohung. Sie sind schneller beschlossen als ein Gesetz und wirken oft schon, bevor der Gesetzgeber reagiert.

Wichtig ist die Abgrenzung zur EU-KI-Verordnung, dem AI Act. Diese ist verbindliches Recht mit Bußgeldern, die Carolina-Prinzipien sind es nicht. Ein verbreiteter Irrtum ist außerdem, sie seien ein technischer Standard. Sie schreiben keine Programmierung vor, sondern nur ein Verhalten.