Transducer
Ein Transducer ist ein KI-Modell, das eine laufende Eingabe Stück für Stück in eine Ausgabe umwandelt, ohne auf das Ende der Eingabe zu warten. Am bekanntesten ist er in der Spracherkennung: Er verwandelt Tonaufnahmen laufend in Text, während jemand noch spricht.
Ein Transducer ist ein Modell, das eine Folge in eine andere Folge umwandelt. Typisch ist der Weg von Tonaufnahme zu Text: Aus tausenden Messwerten pro Sekunde wird ein Satz aus Buchstaben. Das Besondere ist der Zeitpunkt der Ausgabe. Ein Transducer wartet nicht, bis die Aufnahme zu Ende ist, sondern gibt schon während des Sprechens Zeichen aus. Er arbeitet also mitlaufend, ähnlich wie ein Dolmetscher, der beim Sprecher bleibt statt erst am Satzende zu übersetzen. Der Name kommt aus dem Lateinischen und bedeutet ungefähr « Hinüberführer ».
Warum Diktieren ohne Wartezeit davon abhängt
Wer einem Gerät etwas diktiert, will den Text sofort erscheinen sehen. Eine Verzögerung von zwei Sekunden wirkt schon träge. Modelle, die erst die ganze Aufnahme brauchen, können das nicht leisten. Der Transducer wurde genau für diesen Fall gebaut und ist deshalb in Handys und Assistenzsystemen weit verbreitet.
Dazu kommt ein praktischer Vorteil: Ein Transducer läuft klein genug, um direkt auf dem Gerät zu arbeiten. Die Aufnahme muss dann nicht an einen fremden Rechner im Internet geschickt werden. Das spart Datenverkehr, funktioniert im Flugmodus und ist für den Datenschutz angenehmer. Googles Spracheingabe auf Android nutzt seit Jahren ein solches Modell auf dem Telefon selbst.
Wichtig ist die Abgrenzung zu Übersetzungsmodellen wie hinter modernen Chatprogrammen. Diese lesen erst die komplette Eingabe und antworten danach. Für einen Chat ist das kein Problem, für Live-Untertitel schon. Transducer und solche Modelle konkurrieren also nicht direkt, sondern lösen verschiedene Aufgaben.
Encoder, Vorhersagenetz und die leere Ausgabe
Ein Transducer besteht aus drei Teilen. Der Encoder verarbeitet den eingehenden Ton und fasst kurze Abschnitte zu einer inneren Beschreibung zusammen. Ein zweites Netz, oft Prediction Network genannt, schaut nur auf die bisher ausgegebenen Zeichen und schätzt, was sprachlich als Nächstes plausibel wäre. Ein drittes kleines Netz führt beide Einschätzungen zusammen und entscheidet über das nächste Zeichen.
Der eigentliche Trick steckt in einem Sonderzeichen, dem sogenannten Blank. Es bedeutet: In diesem Moment gibt es nichts auszugeben, geh im Ton weiter. Damit löst das Modell ein hartes Problem. Sprache ist unterschiedlich schnell, und niemand sagt dem Modell vorher, welcher Buchstabe zu welcher Millisekunde gehört. Das Blank erlaubt es, Ton und Text frei gegeneinander zu verschieben.
Beim Training lernt das Modell nicht eine einzige Zuordnung, sondern rechnet über alle möglichen Verschiebungen gleichzeitig. Es bekommt nur Tonaufnahme und den fertigen Text als Vorgabe, den Rest erschließt es selbst. Diese Trainingsvariante mit einem rückgekoppelten Netz heißt RNN-Transducer, kurz RNN-T. Heute steckt im Encoder oft stattdessen ein Transformer, die Grundidee bleibt aber dieselbe.
Vom Untertitel im Videocall bis zur Autotastatur
Live-Untertitel in Videokonferenzen und auf YouTube laufen typischerweise über Transducer-Modelle. Dasselbe gilt für die Spracheingabe auf dem Handy und für Sprachbefehle im Auto. Auch Callcenter setzen sie ein, um Gespräche mitzuschreiben, während sie noch laufen.
In Fachnachrichten taucht der Begriff meist im Vergleich mit zwei anderen Ansätzen auf. CTC ist einfacher und schneller, ignoriert aber den bisherigen Text und macht dadurch mehr Fehler bei ungewöhnlichen Wörtern. Attention-Modelle sind oft genauer, brauchen dafür die vollständige Aufnahme. Der Transducer liegt bewusst dazwischen.
Ein verbreiteter Irrtum: Transducer seien grundsätzlich schlechter als große Modelle wie Whisper von OpenAI. Bei einer fertigen Datei stimmt das oft, denn dort hilft der Blick auf den ganzen Kontext. Bei Live-Anwendungen tritt dieses Modell gar nicht erst an. Man vergleicht sonst ein Werkzeug für Echtzeit mit einem für Nachbearbeitung.