Preparedness Framework
Das Preparedness Framework ist ein Regelwerk des Unternehmens OpenAI, das festlegt, wie gefährlich neue KI-Systeme werden dürfen, bevor sie veröffentlicht werden. Es teilt mögliche Schäden in Risikostufen ein und verknüpft jede Stufe mit Schutzmaßnahmen.
Das Preparedness Framework ist ein selbst aufgestelltes Regelwerk der Firma OpenAI, die den Chatbot ChatGPT entwickelt. Übersetzt heißt der Name etwa « Rahmen für Vorbereitetheit ». Es beantwortet eine einzige Frage: Wie gefährlich darf ein neues Computerprogramm sein, das Texte schreibt, Code erzeugt oder Fragen beantwortet, bevor die Firma es der Öffentlichkeit gibt? Dazu prüft OpenAI jedes größere neue Programm vorher auf bestimmte Fähigkeiten, die im falschen Zusammenhang großen Schaden anrichten könnten. Für jede Fähigkeit gibt es Schwellen. Wird eine Schwelle überschritten, muss die Firma nach ihren eigenen Regeln Schutzmaßnahmen einbauen oder die Veröffentlichung stoppen. Ähnliche Regelwerke haben auch Konkurrenten aufgestellt, etwa Anthropic und Google DeepMind.
Selbstverpflichtung statt Gesetz
Die Technik entwickelt sich schneller als die Gesetzgebung. Als die ersten großen Sprachmodelle erschienen, gab es kaum Vorschriften dafür. Die Unternehmen füllten diese Lücke mit eigenen Regeln, unter anderem, um Politik und Öffentlichkeit zu zeigen, dass sie Risiken ernst nehmen. Das Preparedness Framework ist das bekannteste Beispiel dafür. Es wurde Ende 2023 zuerst veröffentlicht und 2025 überarbeitet.
Wichtig ist der Unterschied zu einem Gesetz. Ein Gesetz kann ein Gericht durchsetzen, ein Selbstversprechen nicht. OpenAI kann seine eigenen Regeln ändern oder Ausnahmen definieren. In der überarbeiteten Fassung steht sogar, dass die Firma ihre Anforderungen anpassen könnte, wenn ein Konkurrent ein vergleichbar riskantes System ohne Schutzmaßnahmen veröffentlicht. Kritiker sehen darin eine Hintertür.
Trotzdem hat das Regelwerk Wirkung. Es zwingt die Firma, vor jeder Veröffentlichung Tests zu dokumentieren, und es liefert Journalisten und Aufsichtsbehörden einen Maßstab. Wenn ein Unternehmen seine eigenen Zusagen bricht, lässt sich das nachweisen. Auch neue Regeln wie der EU-Rechtsrahmen für KI greifen Ideen aus solchen Frameworks auf.
Risikokategorien und Schwellenwerte
Der Kern des Regelwerks sind einige wenige Risikofelder. Dazu gehören Hilfe beim Bau biologischer oder chemischer Waffen, Angriffe auf Computersysteme, also Cyberangriffe, und die Fähigkeit eines Modells, sich selbst zu verbessern. In früheren Fassungen zählte auch Überzeugungskraft dazu, etwa für massenhafte Desinformation. Diese Felder sind bewusst eng gewählt: Es geht um Schäden, die sehr viele Menschen treffen und nicht wieder rückgängig zu machen sind.
Für jedes Feld gibt es Stufen. Vereinfacht gesagt: Erreicht ein Modell die Stufe « hoch », darf es nur mit Schutzmaßnahmen veröffentlicht werden. Erreicht es die Stufe « kritisch », darf es nach den Regeln gar nicht erst weiterentwickelt werden, solange die Schutzmaßnahmen fehlen. Über die Einordnung entscheiden Tests, bei denen Fachleute das Modell gezielt zu gefährlichen Antworten zu verleiten versuchen. Dieses Vorgehen nennt man Red Teaming, angelehnt an militärische Übungen mit einer angreifenden « roten » Mannschaft.
Ein Vergleich hilft: Man kann sich das wie den TÜV für ein Auto vorstellen, allerdings mit einem entscheidenden Unterschied. Beim TÜV prüft eine unabhängige Stelle nach staatlich festgelegten Kriterien. Beim Preparedness Framework prüft der Hersteller weitgehend selbst und legt die Kriterien auch selbst fest. Externe Prüfer werden hinzugezogen, haben aber nicht das letzte Wort.
Was davon in den Nachrichten ankommt
Wenn OpenAI ein neues Modell vorstellt, erscheint dazu meist ein Begleitdokument, die sogenannte System Card. Darin steht, wie das Modell in den Risikofeldern eingestuft wurde. Genau diese Einstufungen werden in Meldungen zitiert, etwa wenn ein Modell erstmals als « hoch » im Bereich Biologie gilt. Solche Sätze sind der praktische Ausdruck des Frameworks.
Für Anleger und Beobachter der Branche ist das Regelwerk auch ein Wirtschaftsthema. Strengere Schwellen können Produktstarts verzögern und Geld kosten. Lockerungen dagegen führen regelmäßig zu Streit, auch firmenintern: Mehrere Sicherheitsforscher haben OpenAI mit der Begründung verlassen, Sicherheit werde dem Tempo geopfert.
Ein häufiger Irrtum: Das Preparedness Framework befasst sich nicht mit alltäglichen Problemen wie falschen Antworten, Vorurteilen in Trainingsdaten oder Urheberrecht. Dafür gibt es andere Richtlinien. Hier geht es ausschließlich um seltene, aber sehr große Schäden. Wer den Begriff in einer Meldung liest, sollte ihn also als Warnsystem für Extremfälle verstehen, nicht als allgemeines Qualitätssiegel.