Zero-Shot-Learning

Programme, die aus Beispielen lernen, brauchen normalerweise viele davon. Wer eine Software will, die Katzen auf Fotos erkennt, zeigt ihr üblicherweise tausende Katzenbilder. Zero-Shot-Learning beschreibt den Fall, in dem genau das entfällt. Man gibt dem Programm die Aufgabe einfach als Beschreibung, zum Beispiel als Satz, und es liefert trotzdem ein brauchbares Ergebnis. « Zero Shot » heißt wörtlich « null Versuche »: null Übungsbeispiele für diese konkrete Aufgabe. Möglich ist das nur, weil das Programm vorher aus riesigen Mengen allgemeiner Daten sehr breites Wissen aufgebaut hat.

Warum Aufgaben ohne Beispieldaten so wertvoll sind

Beispieldaten zu sammeln ist teuer und langsam. Für viele Aufgaben muss jemand von Hand markieren, was auf einem Bild zu sehen ist oder ob ein Text freundlich oder unfreundlich klingt. Bei tausenden Datensätzen kostet das Wochen Arbeitszeit. Fällt dieser Schritt weg, sinken Kosten und Wartezeit dramatisch.

Genau darauf beruht der praktische Erfolg heutiger Chatprogramme. Man kann ihnen eine neue Aufgabe beschreiben und sofort loslegen. Früher hätte jede einzelne Anwendung ein eigenes, speziell trainiertes Programm gebraucht. Heute deckt ein einziges großes Modell hunderte Aufgaben ab, die niemand vorher eingeplant hat.

Es gibt aber eine Grenze. Zero-Shot-Ergebnisse sind meist etwas schlechter als die eines Programms, das mit echten Beispielen für genau diese Aufgabe geübt hat. Bei Fachgebieten mit eigener Fachsprache, etwa Medizin oder Recht, kann der Abstand groß sein. Zero-Shot ist deshalb oft der schnelle Anfang, nicht die beste erreichbare Lösung.

Wie Wissen auf unbekannte Aufgaben übertragen wird

Der Kern ist eine gemeinsame Darstellung von Sprache und Sache. Beim Training lernt ein Modell, welche Wörter und welche Bildinhalte zusammengehören. Es sieht Millionen von Bildern mit Bildunterschriften. Dadurch entsteht eine Art gemeinsamer Zahlenraum: das Wort « Zebra » liegt dort nahe bei Zebrafotos.

Bekommt das Modell nun das Wort « Okapi » und ein Foto, kann es vergleichen, wie gut beide zusammenpassen. Es hat vielleicht nie ein markiertes Okapi-Trainingsbeispiel gesehen. Aber es hat Beschreibungen gelesen und Bilder ähnlicher Tiere verarbeitet. Aus diesen Bruchstücken entsteht eine begründete Vermutung.

Bei Sprachmodellen läuft es ähnlich, nur über Text. Die Aufgabenstellung selbst wird Teil der Eingabe. Ein Satz wie « Ordne diese Kundenmail den Kategorien Beschwerde, Lob oder Frage zu » reicht als Anleitung. Verwandt, aber verschieden ist Few-Shot-Learning: dort stellt man der Anfrage einige Beispiele voran, oft drei bis fünf. Ein häufiger Irrtum ist, Zero-Shot bedeute « ohne Training ». Trainiert wurde sehr viel, nur nicht für diese spezielle Aufgabe.

Zero-Shot in Produkten und Schlagzeilen

Jedes Mal, wenn du einem Chatprogramm eine Aufgabe in eigenen Worten gibst, nutzt du Zero-Shot-Learning. Das gilt für Übersetzungen in seltene Sprachen, für Zusammenfassungen von Schulunterlagen oder für das Sortieren von Notizen. Auch die Fotosuche auf dem Handy arbeitet so: du tippst « Fahrrad am Strand » ein und findest passende Bilder, obwohl niemand deine Fotos beschriftet hat.

In Firmen taucht der Begriff bei Textklassifikation auf. Ein Onlineshop will eingehende Mails automatisch sortieren, hat aber keine markierten Altdaten. Mit Zero-Shot startet das System am ersten Tag. Später sammelt man echte Beispiele und verbessert damit die Trefferquote.

In Fachartikeln und Firmenmitteilungen dient Zero-Shot-Leistung als Messgröße. Anbieter berichten, wie gut ihr Modell in Tests abschneidet, die es nie geübt hat. Solche Zahlen sind mit Vorsicht zu lesen. Wenn eine Aufgabe zufällig doch in den Trainingsdaten aus dem Internet steckte, war der Test nicht wirklich neu. Fachleute nennen das Datenleck, und es ist einer der häufigsten Kritikpunkte an veröffentlichten Bestwerten.