Capability Overhang

Manchmal kann ein Werkzeug mehr, als seine Besitzer ahnen. Genau das beschreibt der englische Begriff Capability Overhang, auf Deutsch etwa « Überhang an Fähigkeiten ». Gemeint ist die Lücke zwischen dem, was eine Technologie im Prinzip schon leistet, und dem, was Menschen bisher damit anfangen. Der Ausdruck wird vor allem für Computerprogramme benutzt, die aus Beispielen lernen, also für künstliche Intelligenz. Ein solches Programm wird einmal gebaut und danach nicht mehr verändert. Trotzdem findet man oft noch Monate später heraus, dass es Aufgaben löst, an die beim Bau niemand gedacht hatte.

Warum der Überhang Prognosen zerschießt

Wer abschätzen will, wie stark KI die Wirtschaft verändert, schaut meist auf die neuesten Modelle. Das ist irreführend. Der größere Teil der Wirkung steckt oft in Systemen, die es längst gibt. Selbst wenn die Entwicklung heute stoppen würde, gäbe es jahrelang neue Anwendungen. Der Überhang bedeutet also: Die Technik ist der Gesellschaft voraus, nicht umgekehrt.

Für Unternehmen ist das eine unangenehme Nachricht. Ein Konkurrent kann plötzlich einen Vorsprung haben, ohne ein besseres Modell zu besitzen. Er hat nur früher verstanden, was das vorhandene Modell kann. Genau das passierte nach der Veröffentlichung von ChatGPT Ende 2022. Die zugrundeliegende Technik war da schon Jahre alt und öffentlich beschrieben. Neu war nur die Verpackung als Chatfenster, das jeder ohne Anleitung bedienen konnte.

Auch für Sicherheitsfragen ist der Begriff zentral. Wenn niemand genau weiß, was ein Modell kann, weiß auch niemand, welche gefährlichen Fähigkeiten darin schlummern. Forscher testen veröffentlichte Systeme deshalb systematisch auf unerwartetes Können. Trotzdem bleibt ein Rest, den erst Millionen Nutzer finden.

Woher die verborgenen Fähigkeiten kommen

Ein großes Sprachmodell wird nicht auf einzelne Aufgaben programmiert. Es lernt beim Training aus riesigen Textmengen, welches Wort auf welches folgt. Dabei entstehen nebenbei Fähigkeiten, die niemand direkt beigebracht hat. Ein Modell, das nur Text vorhersagen sollte, kann am Ende Programmcode schreiben oder Mathematikaufgaben lösen. Solche ungeplanten Fähigkeiten nennt man emergent, also « von selbst entstanden ».

Der zweite Grund liegt in der Bedienung. Wie man eine Frage stellt, verändert die Qualität der Antwort erheblich. Bittet man ein Modell, seine Gedanken Schritt für Schritt aufzuschreiben, steigt die Trefferquote bei Rechenaufgaben deutlich. Diese Technik wurde erst gefunden, als die Modelle schon veröffentlicht waren. Das Modell wurde dadurch nicht klüger. Man hat nur gelernt, an das vorhandene Können heranzukommen.

Hinzu kommt die Verdrahtung mit anderen Programmen. Gibt man einem Modell Zugriff auf eine Suchmaschine, einen Taschenrechner oder einen Kalender, wächst sein praktischer Nutzen sprunghaft. Auch hier bleibt das Modell selbst unverändert. Man kann sich das wie ein Smartphone vorstellen, das seit dem Kauf im Schrank lag. Die Hardware ist dieselbe, aber die Apps, die man dafür schreibt, machen es Jahr für Jahr nützlicher.

Der Begriff in Investorenrunden und Nachrichten

In Wirtschaftsnachrichten taucht Capability Overhang meist als Argument auf. Analysten begründen damit, warum KI-Umsätze noch stark wachsen können, obwohl kein neues Spitzenmodell erschienen ist. Auch Führungskräfte großer Labore benutzen den Ausdruck. Sie sagen dann sinngemäß, die Welt habe die bereits vorhandenen Modelle noch gar nicht ausgereizt.

Im Alltag erlebt man den Überhang an der eigenen Nutzung. Die meisten Menschen verwenden Chatbots für einfache Fragen, obwohl dieselben Systeme Tabellen auswerten oder Verträge zusammenfassen könnten. Zwischen Veröffentlichung einer Fähigkeit und ihrer breiten Nutzung liegen oft Jahre.

Wichtig ist eine Abgrenzung: Capability Overhang ist nicht dasselbe wie Hardware-Überhang. Letzterer meint, dass Rechenzentren mehr Rechenleistung besitzen, als aktuelle Modelle nutzen. Ein häufiger Irrtum ist außerdem, den Begriff als Versprechen zu lesen. Er sagt nur, dass ungenutztes Potenzial existiert. Ob es sich wirtschaftlich auszahlt, ist damit nicht entschieden.