Beam-Breite
Die Beam-Breite legt fest, wie viele mögliche Satzanfänge ein Sprachprogramm gleichzeitig weiterverfolgt, bevor es sich für eine Ausgabe entscheidet. Ein größerer Wert liefert oft bessere Ergebnisse, kostet aber mehr Rechenzeit.
Programme, die Text erzeugen oder übersetzen, schreiben ihre Antwort Wort für Wort. Bei jedem Schritt gibt es mehrere plausible Fortsetzungen. Man kann immer nur die eine Fortsetzung nehmen, die im Moment am besten aussieht. Man kann aber auch mehrere Varianten parallel weiterschreiben und erst am Ende die beste auswählen. Die Beam-Breite ist die Zahl, die angibt, wie viele Varianten dabei gleichzeitig offengehalten werden. Bei einer Beam-Breite von 5 laufen also immer fünf halbfertige Sätze nebeneinander, bis einer davon gewinnt.
Warum eine Zahl über die Qualität von Übersetzungen entscheidet
Das Problem beim Wort-für-Wort-Schreiben heißt Kurzsichtigkeit. Ein Wort kann jetzt gut passen und den Satz trotzdem in eine Sackgasse führen. Wer nur die jeweils beste Einzelentscheidung trifft, merkt das erst, wenn es zu spät ist. Die Beam-Breite ist der Hebel, mit dem man diese Kurzsichtigkeit abmildert.
Ein Vergleich: Beim Schachspielen denkt ein Anfänger nur an den nächsten Zug. Ein guter Spieler behält mehrere Zugfolgen im Kopf und entscheidet sich später. Genau diesen Unterschied macht eine größere Beam-Breite aus. In der maschinellen Übersetzung waren Werte zwischen 4 und 10 lange Standard, weil sie messbar bessere Sätze lieferten als der einfache Weg.
Der Preis ist Rechenzeit. Eine Beam-Breite von 10 bedeutet grob, dass zehnmal so viel gerechnet werden muss wie bei einer einzigen Variante. Bei Millionen Anfragen pro Tag ist das ein echter Kostenfaktor. Deshalb ist die Wahl dieser Zahl immer ein Kompromiss zwischen Qualität und Aufwand.
Wie die Kandidaten gefiltert werden
Das Verfahren dahinter heißt Beam Search, also Strahlsuche. Es arbeitet in Runden. In jeder Runde nimmt das Programm die bisher offenen Varianten und hängt an jede alle denkbaren nächsten Wörter an. Daraus entsteht eine riesige Menge neuer Teilsätze. Aus dieser Menge behält das Programm nur die besten, und zwar genau so viele, wie die Beam-Breite vorgibt. Alle anderen werden verworfen.
Bewertet wird über Wahrscheinlichkeiten. Das Modell schätzt für jedes mögliche nächste Wort, wie gut es passt. Die Werte der einzelnen Schritte werden zu einer Gesamtbewertung des Teilsatzes verrechnet. Ein Teilsatz mit einem schwachen Anfang kann sich also noch erholen, wenn die folgenden Wörter sehr gut passen. Genau das ist der Vorteil gegenüber der kurzsichtigen Variante.
Ein häufiger Irrtum ist, dass mehr immer besser sei. Ab einer gewissen Größe werden die Ergebnisse wieder schlechter. Sehr breite Suchen bevorzugen nämlich kurze, langweilige Sätze, weil kurze Sequenzen rechnerisch oft besser bewertet werden. Fachleute nennen das das Beam-Search-Paradox. In der Praxis gleicht man das mit einer Längenkorrektur aus, die kurze Antworten leicht bestraft.
Wo dieser Regler in Produkten auftaucht
Am sichtbarsten ist die Technik in Übersetzungsdiensten und in der Spracherkennung. Wenn ein Diktierprogramm mitten im Satz eine Formulierung nachträglich korrigiert, sieht man Beam Search bei der Arbeit. Auch Systeme, die Programmcode ergänzen oder Bilder beschreiben, nutzen das Verfahren.
Bei modernen Chatbots ist die Lage anders. Dort wird meist nicht nach dem wahrscheinlichsten Satz gesucht, sondern zufällig aus den plausiblen Wörtern gezogen. Das nennt man Sampling, und es macht die Antworten abwechslungsreicher. Beam-Breite spielt dort kaum eine Rolle, in klassischen Übersetzungssystemen dagegen sehr wohl. Wer die beiden Ansätze verwechselt, versteht Diskussionen über Modell-Einstellungen leicht falsch.
In technischen Beschreibungen und Forschungsberichten steht die Zahl oft beiläufig in einer Tabelle, etwa als beam size = 4. Das ist kein Nebendetail. Vergleicht man zwei Systeme mit unterschiedlicher Beam-Breite, vergleicht man auch unterschiedlich viel Rechenaufwand. Seriöse Vergleiche geben den Wert deshalb immer mit an.