Zero-Shot

Wenn du einem Computerprogramm sagst: « Übersetze diesen Satz ins Spanische », dann erwartest du normalerweise, dass jemand es genau dafür gebaut hat. Bei modernen KI-Systemen ist das nicht mehr nötig. Man kann ihnen eine Aufgabe einfach in normaler Sprache beschreiben, und sie versuchen sie zu lösen. Zero-Shot heißt dieser Fall: null Beispiele, nur eine Anweisung. Das Programm hat vorher nie gezeigt bekommen, wie eine richtige Lösung dieser konkreten Aufgabe aussieht. Der Name kommt aus dem Englischen, « shot » steht hier für ein mitgeliefertes Beispiel.

Warum null Beispiele so viel Arbeit sparen

Früher war maschinelles Lernen eine mühsame Sache. Wer einen Spam-Filter wollte, musste zehntausende E-Mails von Hand als « Spam » oder « kein Spam » markieren. Erst mit diesen markierten Daten konnte man ein System darauf trainieren. Für jede neue Aufgabe begann das Sammeln von vorne.

Zero-Shot dreht dieses Verhältnis um. Ein großes Sprachmodell — ein KI-System, das mit riesigen Textmengen aus dem Internet trainiert wurde — kann viele solche Aufgaben ohne Vorbereitung übernehmen. Statt Wochen Datenarbeit braucht man einen gut formulierten Satz. Das ist der Hauptgrund, warum KI seit etwa 2022 in so vielen Produkten auftaucht: Die Einstiegshürde ist von « Forschungsprojekt » auf « Nachmittag » gesunken.

Wichtig ist die Kehrseite. Ein extra für eine Aufgabe trainiertes System ist meist genauer als eine Zero-Shot-Lösung. Bei medizinischen Befunden oder juristischen Dokumenten reicht « ganz gut » nicht aus. Zero-Shot ist deshalb oft der schnelle erste Schritt, nicht die endgültige Lösung.

Woher das Modell die Aufgabe trotzdem kennt

Der Trick liegt im Vortraining. Das Modell hat nicht gelernt, eine bestimmte Aufgabe zu lösen, sondern Text fortzusetzen. Dabei hat es Milliarden von Sätzen verarbeitet: Übersetzungen, Zusammenfassungen, Produktbewertungen, Rezepte, Programmcode. In diesen Texten steckten die Aufgabenmuster schon drin, ohne dass jemand sie als Übungsaufgaben markiert hätte.

Man kann es mit einem Schüler vergleichen, der viel gelesen hat. Er hat nie gezielt Buchbesprechungen geübt. Aber weil er hunderte gelesen hat, kann er auf Anhieb eine schreiben, die grob passt. Genau dieses « grob passend, ohne Übung » ist die Zero-Shot-Fähigkeit.

Daneben stehen zwei verwandte Begriffe. Bei One-Shot gibt man ein einziges Beispiel mit, bei Few-Shot einige wenige, meist zwei bis fünf. Diese Beispiele stehen dabei nur in der Anfrage, das Modell selbst wird nicht verändert. Oft steigt die Trefferquote dadurch deutlich, besonders wenn ein bestimmtes Ausgabeformat gefordert ist.

Zero-Shot in Chatbots und in Fachmeldungen

Am häufigsten begegnet man Zero-Shot, ohne es zu merken. Jede Frage an einen Chatbot ist im Grunde eine Zero-Shot-Anfrage. Auch die Übersetzungsfunktion im Browser, die Betreffzeilen-Vorschläge im Mailprogramm oder die automatische Bildbeschreibung in einer Foto-App arbeiten oft so. Es gibt kein Spezialmodell dahinter, sondern ein allgemeines Modell mit einer festen Anweisung.

In Fachartikeln und Firmenmitteilungen tauchen die Begriffe als Messgrößen auf. Steht dort « 82 Prozent Zero-Shot-Genauigkeit », heißt das: Das Modell wurde auf einer Testaufgabe geprüft, für die es nicht trainiert wurde. Solche Werte gelten als Hinweis darauf, wie gut ein Modell mit Neuem umgeht. Vergleiche zwischen Anbietern sind hier üblich — und man sollte darauf achten, ob wirklich Zero-Shot oder doch Few-Shot gemessen wurde, denn die Zahlen unterscheiden sich stark.

Ein verbreiteter Irrtum: Zero-Shot bedeutet nicht, dass das Modell nichts gelernt hat. Es hat sehr viel gelernt, nur nichts speziell für diese Aufgabe. Und es bedeutet auch nicht, dass die Antwort stimmt. Ein Modell kann eine völlig unbekannte Aufgabe selbstbewusst und falsch beantworten.