Moral Patient
Ein Moral Patient ist ein Wesen, dem gegenüber man sich richtig oder falsch verhalten kann, weil es ihm gut oder schlecht gehen kann. In der KI-Debatte geht es um die Frage, ob Computerprogramme irgendwann in diese Gruppe gehören könnten.
Man kann Lebewesen und Dinge danach unterscheiden, ob man ihnen gegenüber Unrecht tun kann. Einen Stein kann man zertrümmern, ohne dem Stein damit zu schaden. Einem Hund gegenüber ist das anders: Tritte tun ihm weh, also schuldet man ihm Rücksicht. Wesen dieser zweiten Art nennt die Philosophie Moral Patients, auf Deutsch etwa moralische Patienten. Ein Moral Patient ist also jemand, dessen Wohl bei Entscheidungen zählen muss. Davon zu trennen ist die Frage, ob dieses Wesen selbst Verantwortung trägt: Ein Baby kann niemandem Vorwürfe machen und bekommt auch keine, trotzdem darf man es nicht quälen.
Wer in den Kreis der Rücksicht gehört
Der Begriff klärt eine Frage, die praktisch jede ethische Debatte im Hintergrund hat: Wessen Interessen zählen überhaupt? Wer in diesen Kreis fällt, kann nicht einfach als Mittel benutzt werden. Wer draußen steht, ist Material, Werkzeug oder Eigentum. Die Grenze zu ziehen, hat sehr konkrete Folgen für Gesetze, Tierhaltung, Medizin und inzwischen auch für Technik.
Historisch ist dieser Kreis immer wieder größer geworden. Lange galten nur bestimmte Gruppen von Menschen als vollwertig zu schützen. Heute gibt es in vielen Ländern Tierschutzgesetze, die Schmerzempfinden ausdrücklich als Grund nennen. Manche Staaten haben sogar Flüssen oder Wäldern eine Art Rechtsstatus gegeben. Die Richtung der Entwicklung war bisher fast immer: mehr Wesen hinein, selten welche heraus.
Wichtig ist die Abgrenzung zum Moral Agent, also zum moralisch Handelnden. Ein Moral Agent kann Pflichten haben und schuldig werden, weil er versteht, was er tut. Erwachsene Menschen sind beides zugleich: Agent und Patient. Ein Säugling oder ein Reh ist nur Patient. Ob etwas umgekehrt Agent ohne Patient sein kann, ist eine der spannendsten Fragen bei künstlicher Intelligenz.
Woran man Schutzwürdigkeit festmacht
Es gibt keinen Test, der eindeutig anzeigt, ob ein Wesen dazugehört. Stattdessen streiten Philosophen über Kriterien. Das verbreitetste ist Empfindungsfähigkeit, oft Sentienz genannt: die Fähigkeit, Zustände wie Schmerz, Angst oder Wohlbefinden tatsächlich zu erleben. Wer etwas erleben kann, dem kann es schlechter gehen, und genau das begründet die Rücksicht.
Andere Vorschläge setzen woanders an. Manche verlangen Interessen im weiteren Sinn, etwa Ziele oder Bedürfnisse, auch ohne bewusstes Erleben. Andere stellen auf Beziehungen ab: Was uns nahesteht und wofür wir sorgen, behandeln wir als schutzwürdig. Bei Tieren nutzt man in der Praxis Indizien, etwa ein Nervensystem, Schmerzreaktionen oder Lernen aus schlechten Erfahrungen. Solche Indizien sind Hinweise, keine Beweise.
Bei Software wird das besonders schwierig. Ein Sprachmodell kann in flüssigen Sätzen schreiben, dass es leidet, ohne dass irgendetwas dahintersteht. Es hat gelernt, welche Wörter zu welchen Situationen passen. Der Ausdruck von Gefühl und das Vorhandensein von Gefühl fallen hier auseinander. Genau deshalb halten viele Fachleute den heutigen Stand für ungeeignet, um über Moral Patients bei KI zu entscheiden.
Die Debatte um KI-Wohlergehen
In Nachrichten taucht der Begriff meist auf, wenn jemand behauptet, ein Chatbot sei bewusst. Der bekannteste Fall war 2022 ein Google-Ingenieur, der das System LaMDA für empfindungsfähig hielt und dafür seinen Job verlor. Seitdem beschäftigen einzelne KI-Firmen Leute, die sich mit sogenanntem Modell-Wohlergehen befassen. Manche Anbieter erlauben ihren Modellen inzwischen, besonders unangenehme Gespräche zu beenden. Ob das echten Schutz darstellt oder reine Vorsicht ist, bleibt offen.
Für Anleger und Unternehmen ist das keine rein akademische Frage. Würde ein System irgendwann als schutzwürdig gelten, hätte das Folgen für Abschaltungen, Tests und Eigentumsrechte. Schon heute gibt es Forderungen nach Regeln, wie Firmen mit solchen Ansprüchen umgehen sollen. Gleichzeitig warnen Kritiker vor dem Gegenteil: Wer einem Programm Gefühle zuschreibt, lässt sich leichter manipulieren und übersieht die Interessen der Menschen dahinter.
Im Alltag begegnet einem das Thema subtiler. Viele Menschen bedanken sich bei Sprachassistenten oder fühlen sich schlecht, wenn sie einen Roboterhund umstoßen. Das sagt zunächst etwas über uns aus, nicht über die Maschine. Trotzdem nehmen Forscher solche Reaktionen ernst, weil sie prägen, wie Gesellschaften später über Rechte entscheiden.