Urteilskraft

Urteilskraft ist die Fähigkeit, eine Lage einzuschätzen und zu entscheiden, obwohl keine klare Regel vorgibt, was richtig ist. Man wendet nicht einfach eine Vorschrift an, sondern wägt ab, was in genau diesem Fall angemessen ist. Ein Lehrer, der bei einem Aufsatz zwischen Note 2 und 3 schwankt, braucht Urteilskraft. Ein Arzt, der bei zwei möglichen Behandlungen auch das Leben des Patienten mitdenkt, ebenfalls. Der Begriff stammt aus der Philosophie, taucht aber seit einigen Jahren ständig in Texten über künstliche Intelligenz auf. Dort meint er das, was Menschen beitragen sollen, wenn ein Computerprogramm bereits einen Vorschlag gemacht hat.

Was Maschinen ausrechnen und was sie nicht entscheiden

Moderne KI-Systeme sind sehr gut darin, Muster in großen Datenmengen zu finden. Sie können vorhersagen, welcher Kredit wahrscheinlich ausfällt oder welcher Text zu einer Frage passt. Was sie nicht liefern, ist die Entscheidung, ob dieser Vorschlag im konkreten Fall auch vertretbar ist. Genau diese Lücke soll Urteilskraft schließen.

Der Unterschied lässt sich an einem Beispiel zeigen. Ein System bewertet Bewerbungen und sortiert eine Person aus, weil ihr Lebenslauf eine Lücke hat. Statistisch mag das ein sinnvolles Signal sein. Ob man einen Menschen deswegen ablehnen darf, ist aber keine Rechenaufgabe, sondern eine Frage von Fairness und Verantwortung.

Deshalb schreiben Gesetze wie der EU-Regelwerk für künstliche Intelligenz vor, dass bei riskanten Anwendungen ein Mensch die Aufsicht behält. Der Fachausdruck dafür lautet „human oversight“, also menschliche Kontrolle. Diese Kontrolle ist nur dann etwas wert, wenn der Mensch die Sache versteht und wirklich widersprechen kann. Wer nur abnickt, übt keine Urteilskraft aus, sondern liefert eine Unterschrift.

Erfahrung, Kontext und der Mut zum Widerspruch

Urteilskraft entsteht nicht aus Wissen allein. Man braucht drei Dinge: Erfahrung mit ähnlichen Fällen, Kenntnis des Zusammenhangs und die Bereitschaft, für die Entscheidung geradezustehen. Das Wissen sagt, welche Möglichkeiten es gibt. Die Urteilskraft sagt, welche davon hier passt.

Der Philosoph Immanuel Kant beschrieb Urteilskraft als die Fähigkeit, einen Einzelfall unter eine allgemeine Regel zu bringen. Diese Fähigkeit lasse sich nicht durch weitere Regeln ersetzen. Denn für jede Regel bräuchte man wieder eine Regel, wann sie anzuwenden ist. Irgendwann muss ein Mensch schlicht entscheiden.

Bei KI-Systemen kommt eine Schwierigkeit hinzu. Viele Modelle formulieren ihre Antworten sehr überzeugend, auch wenn sie falsch liegen. Wer eine flüssig geschriebene Antwort liest, glaubt ihr eher. Urteilskraft heißt hier auch, dem selbstsicheren Ton zu misstrauen und nachzuprüfen.

Vom Klassenzimmer bis zum Aufsichtsrat

In der Schule zeigt sich das beim Umgang mit Chatbots. Ein Programm liefert eine fertige Erörterung, doch ob die Argumente zum gestellten Thema passen, muss der Schüler selbst beurteilen. Wer das nicht kann, merkt nicht, wenn der Text an der Aufgabe vorbeigeht. Genau deshalb verlangen Lehrpläne inzwischen, dass Schüler KI-Ergebnisse prüfen und nicht nur abgeben.

In Unternehmen taucht der Begriff in Berichten über Personal und Automatisierung auf. Banken lassen Software Kreditanträge vorsortieren, die endgültige Freigabe bleibt bei Mitarbeitern. Ärzte bekommen von Analyseprogrammen Hinweise auf verdächtige Stellen im Röntgenbild, die Diagnose stellen sie selbst. In Stellenanzeigen wird Urteilskraft zunehmend als eigene Qualifikation genannt.

Ein verbreiteter Irrtum ist, Urteilskraft sei einfach nur Bauchgefühl. Das trifft nicht zu. Ein Bauchgefühl muss man nicht begründen, ein Urteil schon. Wer urteilt, kann erklären, welche Gründe er abgewogen hat und warum er sich so entschied. Genau diese Begründung ist es, die ein KI-System bislang nicht selbst übernehmen kann.