Capability Threshold

Firmen, die große KI-Systeme bauen, legen sich selbst Regeln auf. Eine davon lautet: Ab einem bestimmten Können wird ein System gefährlich genug, dass man es nicht einfach weiter verteilen darf. Genau diese Grenze heißt Capability Threshold, auf Deutsch etwa Fähigkeitsschwelle. Sie wird schriftlich festgelegt, bevor das System überhaupt fertig ist. Danach wird jedes neue System darauf geprüft, ob es die Grenze erreicht. Wird sie erreicht, treten vorher vereinbarte Maßnahmen in Kraft.

Warum eine Grenze im Voraus gezogen wird

Der Sinn liegt im Zeitpunkt. Wer erst nach der Veröffentlichung überlegt, ob ein System zu mächtig ist, entscheidet unter Druck. Es gibt dann bereits Nutzer, Kunden und Konkurrenz. Legt man die Grenze dagegen Monate vorher fest, ist die Entscheidung nüchterner. Man bindet sich sozusagen selbst an den Mast, bevor die Sirenen singen.

Konkret geht es um Fähigkeiten mit hohem Schadenspotenzial. Typische Beispiele sind: einem Laien verlässlich bei der Herstellung biologischer Waffen helfen, eigenständig schwere Cyberangriffe durchführen oder sich selbst kopieren und der Kontrolle entziehen. Solche Fähigkeiten will man nicht erst dann bemerken, wenn jemand sie ausnutzt.

Wichtig ist die Abgrenzung zum Risiko selbst. Eine Fähigkeit allein ist noch kein Schaden. Ein Modell, das Chemie sehr gut erklärt, richtet nichts an, solange Schutzmechanismen greifen. Der Threshold beschreibt deshalb nur den Punkt, ab dem der Aufwand für Schutz steigen muss – nicht den Punkt, ab dem ein System verboten ist.

Wie geprüft wird, ob die Schwelle erreicht ist

Vor der Veröffentlichung durchläuft ein Modell Tests, die man Evaluierungen nennt. Fachleute stellen ihm gezielt Aufgaben aus dem gefährlichen Bereich. Oft arbeiten dabei externe Teams mit, die versuchen, dem System die kritischen Antworten zu entlocken. Dieses absichtliche Angreifen heißt Red Teaming. Aus den Ergebnissen liest man ab, ob die vorher definierte Grenze überschritten ist.

Der schwierige Teil ist die Messbarkeit. Eine Formulierung wie „gefährlich gut in Biologie“ lässt sich nicht prüfen. Deshalb übersetzt man die Schwelle in konkrete Tests: eine bestimmte Trefferquote bei festgelegten Aufgaben oder ein Vergleich mit menschlichen Fachleuten. Manche Anbieter arbeiten zusätzlich mit Stufen, die an Sicherheitsstufen im Labor erinnern. Jede Stufe hat eigene Auflagen.

Wird eine Schwelle erreicht, folgen abgestufte Konsequenzen. Möglich sind strengere Filter, Zugang nur für geprüfte Kunden, besserer Schutz der Modellgewichte gegen Diebstahl oder ein Aufschub der Veröffentlichung. Ein häufiger Irrtum ist, dass ein überschrittener Threshold automatisch das Ende eines Modells bedeutet. Meist bedeutet er nur: nicht so, nicht für alle, nicht jetzt.

Wo der Begriff in Nachrichten auftaucht

Große KI-Anbieter haben eigene Sicherheitsregelwerke veröffentlicht, in denen solche Schwellen stehen. Bei Anthropic heißt das Dokument Responsible Scaling Policy, bei OpenAI Preparedness Framework, bei Google DeepMind Frontier Safety Framework. Wenn ein neues Modell erscheint, berichten die Firmen meist, welche Stufe es erreicht hat. Solche Meldungen sind für Investoren interessant, weil sie zeigen, wie frei ein Produkt verkauft werden darf.

Auch der Gesetzgeber greift die Idee auf. Die KI-Verordnung der Europäischen Union kennt eine Schwelle für Modelle mit besonders hohem Risiko, ab der zusätzliche Pflichten gelten. Der Unterschied zu den Firmenregeln ist die Verbindlichkeit: Selbstverpflichtungen kann ein Unternehmen ändern oder aufweichen, ein Gesetz nicht.

Genau daran setzt die Kritik an. Wer die Schwelle festlegt, misst und bewertet, ist häufig dieselbe Firma, die das Produkt verkaufen will. Zudem sind die Tests jung und unvollständig. Ein Modell kann in der Prüfung harmlos wirken und später mit besseren Anweisungen mehr leisten. Capability Thresholds sind deshalb ein nützliches Werkzeug, aber keine Garantie.