Responsible Scaling Policy
Eine Responsible Scaling Policy ist eine selbst gegebene Regel eines KI-Unternehmens, die festlegt, welche Sicherheitsmaßnahmen ab welchem Fähigkeitsniveau seiner Systeme gelten müssen. Erreicht ein System eine vorher definierte Schwelle, darf es erst weiterentwickelt oder veröffentlicht werden, wenn die zugehörigen Schutzmaßnahmen stehen.
Firmen, die sehr große KI-Systeme bauen, veröffentlichen seit einigen Jahren eigene Sicherheitsregelwerke. Eine Responsible Scaling Policy ist so ein Regelwerk. Sie beschreibt, wie gefährlich ein System höchstens werden darf, ohne dass zusätzliche Schutzmaßnahmen greifen. Dazu legt die Firma Stufen fest: Auf jeder Stufe steht, was das System können könnte und welche Vorkehrungen dann Pflicht sind. Der Kern ist ein Versprechen: Wird eine Stufe erreicht, bevor die passenden Vorkehrungen fertig sind, wird die Entwicklung oder Veröffentlichung angehalten. Das Wort „Scaling“ meint hier das Größer- und Stärkermachen der Systeme, also genau den Vorgang, der begrenzt werden soll.
Warum Firmen sich selbst Bremsen einbauen
Der Antrieb dahinter ist ein Wettlauf. Wer zuerst ein stärkeres System hat, gewinnt Nutzer, Aufträge und Investorengeld. In so einem Wettlauf ist Vorsicht ein Nachteil, weil sie Zeit kostet. Eine öffentlich zugesagte Richtlinie soll diesen Druck abschwächen: Wenn alle großen Anbieter ähnliche Grenzen zusagen, verliert niemand allein durch Vorsicht.
Ein zweiter Grund ist die Gesetzeslage. Verbindliche Regeln für sehr leistungsfähige KI entstehen erst, etwa im KI-Gesetz der Europäischen Union. Die Technik entwickelt sich schneller als die Gesetzgebung. Selbstverpflichtungen füllen diese Lücke vorläufig und dienen Behörden gleichzeitig als Vorlage für spätere Vorschriften.
Man sollte den Unterschied zu einem Gesetz aber klar sehen. Eine Selbstverpflichtung kann die Firma selbst ändern, aufweichen oder neu auslegen. Es gibt keinen Richter, der sie durchsetzt, und meist keine Strafe bei einem Verstoß. Kritiker nennen das deshalb bestenfalls einen ersten Schritt.
Fähigkeitsstufen und rote Linien
Technisch besteht eine solche Richtlinie aus drei Teilen. Erstens gibt es Schwellen, die gefährliche Fähigkeiten beschreiben. Ein typisches Beispiel: Das System hilft einem Laien wirksam beim Bau einer Biowaffe oder bei einem großen Cyberangriff. Zweitens gibt es Tests, mit denen geprüft wird, ob eine Schwelle erreicht ist. Drittens gibt es die Maßnahmen, die ab dieser Schwelle gelten.
Geprüft wird vor allem durch gezieltes Angreifen des eigenen Systems. Fachleute versuchen dabei, dem Modell verbotene Antworten zu entlocken. Dieses Vorgehen heißt Red Teaming, benannt nach der Angreiferrolle in militärischen Übungen. Zusätzlich laufen standardisierte Prüfungen, sogenannte Evaluationen, die Fähigkeiten in Zahlen messen.
Die Maßnahmen betreffen zwei Seiten. Die eine Seite schützt die Nutzung: Filter lehnen gefährliche Anfragen ab, Missbrauch wird überwacht. Die andere Seite schützt das Modell selbst vor Diebstahl, etwa durch strenge Zugangskontrollen im Rechenzentrum. Denn ein gestohlenes Modell lässt sich ohne jede Sperre betreiben.
Wo die Richtlinien in den News auftauchen
Jedes große KI-Labor hat inzwischen ein solches Dokument, nur heißen sie unterschiedlich. Anthropic nutzt den Namen Responsible Scaling Policy mit Stufen namens ASL-1 bis ASL-4. OpenAI nennt sein Regelwerk Preparedness Framework, Google DeepMind spricht vom Frontier Safety Framework. Die Grundidee ist in allen Fällen dieselbe.
Begegnen wirst du dem Begriff meist bei Produktstarts. Zu neuen Modellen erscheinen Sicherheitsberichte, die auf die jeweilige Richtlinie verweisen. Dort steht dann, welche Stufe das Modell erreicht und welche Schutzmaßnahmen deshalb aktiv sind. 2025 ordnete Anthropic sein Modell Claude Opus 4 erstmals der strengeren Stufe ASL-3 zu, vorsorglich und ohne endgültigen Beweis der Gefährlichkeit.
Auch in der Politik spielen die Dokumente eine Rolle. Bei internationalen KI-Gipfeln legen Firmen ihre Rahmenwerke vor, um Regierungen Handlungsfähigkeit zu zeigen. Ein häufiger Irrtum ist, das sei geprüfte Sicherheit. Tatsächlich bewerten die Firmen in der Regel selbst, ob sie ihre eigenen Regeln einhalten.