Law Enforcement Referral Protocol
Ein Law Enforcement Referral Protocol ist die fest aufgeschriebene Regel eines Unternehmens, wann und wie es Hinweise auf mögliche Straftaten an Polizei oder Staatsanwaltschaft weitergibt. Bei KI-Anbietern greift es zum Beispiel, wenn ein Nutzer in einem Chat glaubhaft einen Anschlag ankündigt.
Große Internetdienste bekommen jeden Tag Inhalte zu sehen, die nicht nur gegen ihre eigenen Regeln verstoßen, sondern möglicherweise strafbar sind. Ein Law Enforcement Referral Protocol ist die schriftlich festgelegte Vorgehensweise für genau diese Fälle. Der englische Name heißt wörtlich „Weiterleitungsprotokoll an die Strafverfolgung“. Es legt fest, welche Meldungen intern nach oben gehen, wer sie prüft und ab wann das Unternehmen selbst Polizei oder Staatsanwaltschaft informiert. Bei Anbietern von KI-Chatprogrammen ist das seit einigen Jahren ein eigener Baustein der Sicherheitsabteilung. Der Begriff taucht deshalb immer häufiger in Sicherheitsberichten und in Anhörungen vor Parlamenten auf.
Zwischen Schweigepflicht und Warnpflicht
Ein Unternehmen steht hier zwischen zwei Risiken. Meldet es zu wenig, kann echter Schaden entstehen, den es hätte verhindern können. Meldet es zu viel, gibt es private Gespräche von Menschen weiter, die nichts verbrochen haben. Beides hat Folgen: rechtliche, aber auch für das Vertrauen der Nutzer.
Bei KI-Systemen ist die Lage besonders heikel. Viele Menschen erzählen einem Chatbot Dinge, die sie keinem Menschen sagen würden. Manche schildern Suizidgedanken, andere prahlen mit Gewaltfantasien. Ein Protokoll muss trennen zwischen einer beunruhigenden Äußerung und einer konkreten, glaubhaften Gefahr. Diese Grenze ist nicht scharf, also braucht sie klare Kriterien statt Bauchgefühl.
Hinzu kommt der rechtliche Rahmen. In Deutschland gibt es keine allgemeine Pflicht, jede Straftat anzuzeigen, wohl aber eine Anzeigepflicht für geplante schwere Verbrechen. Der Digital Services Act der EU verlangt zusätzlich, dass große Plattformen Behörden informieren, wenn sie von einer Bedrohung für Leben oder Sicherheit erfahren. Ein Protokoll ist der Versuch, diese Vorgaben in einen wiederholbaren Arbeitsablauf zu übersetzen.
Der Weg von der Meldung zur Anzeige
Am Anfang steht fast immer eine automatische Erkennung. Ein Filtersystem markiert Gespräche, in denen es Anzeichen für Waffen, Sprengstoff, Anschlagsplanung oder sexuellen Missbrauch von Kindern findet. Solche Systeme schlagen oft falschen Alarm, etwa bei einem Schulaufsatz über Terrorismus. Deshalb entscheidet nie die Software allein.
In der zweiten Stufe sieht ein geschultes Team den markierten Fall an. Es prüft typische Fragen: Nennt die Person ein konkretes Ziel? Einen Zeitpunkt? Hat sie Zugang zu Mitteln? Sind es Absichten oder bloß Fantasien? Erst wenn genug dieser Punkte zutreffen, geht der Fall an die Rechtsabteilung.
Dort wird entschieden, was übermittelt wird und an wen. Meist gehen nur die Teile weiter, die für die Gefahr relevant sind, nicht der komplette Chatverlauf. Anschließend wird der Vorgang dokumentiert, damit später überprüfbar ist, warum so entschieden wurde. Ein guter Vergleich ist die Notaufnahme eines Krankenhauses: Es gibt ein festes Einstufungsverfahren, damit nicht die Stimmung des Einzelnen über eine schwere Entscheidung bestimmt.
Wenn Anbieter über Meldezahlen berichten
Sichtbar wird das Protokoll vor allem in Transparenzberichten. Anbieter wie OpenAI, Google, Meta oder Discord veröffentlichen regelmäßig, wie viele Fälle sie an Behörden weitergeleitet haben. In Nutzungsbedingungen findest du dazu einen Satz, dass Daten bei Gefahr für Leib und Leben an Behörden übermittelt werden dürfen. Genau dieser Satz ist die rechtliche Grundlage für das Protokoll.
In den Nachrichten erscheint der Begriff meist nach einem Vorfall. Dann lautet die Frage, ob ein Unternehmen Warnsignale erkannt und gemeldet hat oder nicht. 2025 wurde etwa öffentlich diskutiert, wie KI-Anbieter mit Chats über Selbstverletzung umgehen. Auch Streit über Overblocking gehört dazu, also über zu viele unnötige Meldungen.
Ein häufiger Irrtum ist, das Protokoll sei dasselbe wie eine Behördenanfrage. Das ist der umgekehrte Weg: Dort fordert die Polizei Daten an, meist mit richterlichem Beschluss. Beim Referral Protocol geht die Initiative vom Unternehmen aus. Wer News zu Plattformregulierung liest, sollte diese beiden Richtungen sauber auseinanderhalten.