Model Autonomy

Model Autonomy beschreibt, wie selbstständig ein KI-System arbeiten kann. Auf der einen Seite stehen Programme, die nur antworten, wenn man sie etwas fragt. Sie tun genau einen Schritt und warten dann wieder. Auf der anderen Seite stehen Systeme, die ein grobes Ziel bekommen und sich den Weg dorthin selbst zusammenbauen. Sie zerlegen die Aufgabe in Teilschritte, führen sie nacheinander aus und prüfen zwischendurch das Ergebnis. Der Begriff ist also kein Ja-oder-Nein, sondern eine Skala mit vielen Zwischenstufen. Er sagt nichts darüber aus, wie klug ein System ist, sondern nur, wie lang die Leine ist.

Die lange Leine als Risikofaktor

Je selbstständiger ein System handelt, desto später merkt ein Mensch einen Fehler. Wer jede Antwort einzeln liest, kann Unsinn sofort stoppen. Wer dagegen einen Auftrag abgibt und eine Stunde später zurückkommt, findet womöglich hundert Schritte vor, die auf einem falschen dritten Schritt aufbauen. Fehler vervielfachen sich mit der Leinenlänge.

Deshalb ist Autonomie inzwischen ein fester Punkt in den Sicherheitsberichten großer KI-Labore. Anbieter wie OpenAI oder Anthropic testen vor einer Veröffentlichung gezielt, ob ein Modell sich selbst kopieren, Geld beschaffen oder Sicherheitsabfragen umgehen könnte. Solche Fähigkeiten gelten als Warnsignal, unabhängig davon, wie gut das Modell Aufsätze schreibt. Die Einstufung entscheidet dann darüber, welche Schutzmaßnahmen nötig sind.

Auch wirtschaftlich hängt viel an der Frage. Ein System, das nur Vorschläge macht, spart einem Angestellten Zeit. Ein System, das eine Aufgabe komplett übernimmt, ersetzt womöglich den ganzen Arbeitsschritt. Firmen zahlen für das Zweite deutlich mehr — und tragen dafür auch ein größeres Risiko, wenn etwas schiefgeht.

Werkzeuge, Schleifen und Gedächtnis

Ein Sprachmodell allein kann nur Text erzeugen. Autonomie entsteht erst durch drei Zutaten drumherum. Die erste sind Werkzeuge: Das Modell darf eine Suchmaschine aufrufen, eine Datei öffnen oder Programmcode ausführen. Die zweite ist eine Schleife: Statt einmal zu antworten, liest das System sein eigenes Ergebnis und startet den nächsten Durchgang. Die dritte ist ein Gedächtnis, in dem Zwischenstände über viele Schritte hinweg festgehalten werden.

Ein Beispiel macht das greifbar. Die Aufgabe lautet: Finde heraus, welcher Laptop unter 900 Euro die beste Akkulaufzeit hat. Das System sucht zuerst nach Testberichten, öffnet dann drei Seiten, notiert die Messwerte in einer Tabelle und vergleicht sie am Ende. Kein Mensch hat diese vier Schritte vorgegeben — das Modell hat sie selbst gewählt.

In der Praxis begrenzt man diese Freiheit bewusst. Übliche Bremsen sind ein Limit für die Anzahl der Schritte, eine feste Liste erlaubter Werkzeuge und Pflicht-Rückfragen vor heiklen Aktionen. Bevor Geld überwiesen oder eine Datei gelöscht wird, muss ein Mensch bestätigen. Fachleute nennen das Human in the Loop, also den Menschen als eingebaute Kontrollinstanz.

Von Autovervollständigung bis Agent

Im Alltag begegnet die niedrigste Stufe ständig. Die Wortvorschläge auf dem Handy oder ein Chatbot, der eine Frage beantwortet, handeln praktisch nicht selbst. Eine Stufe höher stehen Programmierhilfen, die auf Zuruf mehrere Dateien eines Projekts ändern und den Code testen. Noch weiter oben stehen sogenannte Agenten, die im Browser Formulare ausfüllen oder Reisen buchen.

In den Nachrichten taucht der Begriff meist in zwei Zusammenhängen auf. Entweder kündigt eine Firma ein Produkt an, das angeblich ganze Arbeitsabläufe übernimmt. Oder es geht um Regulierung: Der EU-Gesetzestext AI Act stuft Systeme nach Risiko ein, und der Grad der Selbstständigkeit spielt dabei eine Rolle.

Ein verbreiteter Irrtum ist, Autonomie mit Bewusstsein oder eigenem Willen zu verwechseln. Ein autonom arbeitendes System verfolgt kein Ziel, das es sich selbst ausgesucht hat. Es hat ein Ziel bekommen und wählt nur die Zwischenschritte. Genau deshalb ist die Formulierung des Ziels durch den Menschen so wichtig — ein ungenauer Auftrag führt zu selbstständigem Unsinn.