Ablaufschema eines Vision-Language-Action-Modells: links die drei Eingaben Kamerabild, Sprachanweisung und Gelenkstellung des Roboters, in der Mitte das gemeinsame Modell, rechts die Ausgabe als Bewegungsbefehle, mit einem Rückkopplungspfeil vom Roboter zurück zur Kamera.

Vision-Language-Action-Modell

Ein Vision-Language-Action-Modell ist ein KI-System, das Kamerabilder und Anweisungen in normaler Sprache entgegennimmt und daraus direkt Bewegungsbefehle für einen Roboter erzeugt. Es verbindet damit Sehen, Sprachverstehen und Handeln in einem einzigen Modell statt in getrennten Programmen.

Ein Vision-Language-Action-Modell steuert einen Roboter. Es bekommt drei Dinge: Bilder von einer Kamera, einen Satz in normaler Sprache und Angaben darüber, wie der Roboter gerade steht. Daraus berechnet es, wie sich der Arm oder das Fahrgestell im nächsten Moment bewegen soll. Sagt man einem solchen Roboter „Räum die Tasse in die Spüle“, sucht er die Tasse im Kamerabild und greift danach. Der Name beschreibt genau diese drei Teile: Vision für das Sehen, Language für die Sprache, Action für die Bewegung. Fachleute kürzen den Begriff meist mit VLA ab.

Roboter, die nicht mehr einprogrammiert werden

Klassische Industrieroboter führen fest einprogrammierte Bewegungen aus. Ein Ingenieur legt jede Position auf den Millimeter fest. Das funktioniert hervorragend, solange sich nichts ändert. Steht das Werkstück zwei Zentimeter versetzt, greift der Roboter ins Leere. Für eine Fabrikhalle ist das machbar, für eine unaufgeräumte Küche nicht.

Genau hier liegt der Reiz der VLA-Modelle. Sie sollen mit Situationen umgehen, die niemand vorher beschrieben hat. Das Ziel ist ein Roboter, dem man eine Aufgabe einfach sagt, statt sie zu programmieren. In der Robotik nennt man dieses lange ungelöste Problem Generalisierung: die Fähigkeit, Gelerntes auf neue Gegenstände und Räume zu übertragen.

Deshalb fließt viel Geld in diesen Bereich. Firmen wie Google DeepMind, Nvidia, Tesla und Figure arbeiten an solchen Systemen, oft im Zusammenhang mit menschenähnlichen Robotern. Der wirtschaftliche Hintergedanke ist groß: Sprachmodelle haben Bürotätigkeiten verändert, VLA-Modelle sollen dasselbe für körperliche Arbeit leisten. Ob das gelingt, ist offen. Bisherige Vorführungen laufen meist in kontrollierten Umgebungen ab.

Vom Kamerabild zum Gelenkwinkel

Die Grundlage ist meist ein bereits fertig trainiertes Modell, das Bilder und Texte gemeinsam verarbeitet. Solche Modelle haben aus Millionen Fotos mit Bildunterschriften gelernt, was ein Becher, ein Griff oder eine Schublade ist. Dieses Vorwissen ist entscheidend: Es stammt aus dem Internet, nicht aus einem Labor. Ohne es müsste jeder Roboter die Welt von null lernen.

Dann kommt der entscheidende Umbau. Das Modell wird mit Aufzeichnungen echter Roboterbewegungen weitertrainiert. Menschen führen dabei einen Roboterarm per Fernsteuerung durch Aufgaben, während Kameras alles mitschneiden. Aus solchen Aufnahmen lernt das Modell, welche Bewegung in welcher Situation passt. Die Ausgabe ist keine Textantwort mehr, sondern eine Zahlenfolge: Positionen, Winkel, Greiferzustand.

Im Betrieb läuft das als schnelle Schleife. Bild aufnehmen, kurzes Stück Bewegung berechnen, ausführen, neues Bild aufnehmen. Das wiederholt sich viele Male pro Sekunde. Ein häufiger Irrtum ist, das Modell plane die Aufgabe einmal komplett durch. Tatsächlich korrigiert es sich ständig anhand dessen, was die Kamera gerade zeigt. Der größte Engpass sind die Trainingsdaten: Text gibt es im Internet praktisch unbegrenzt, Aufzeichnungen von Robotergriffen müssen mühsam einzeln erzeugt werden.

Wo diese Systeme heute auftauchen

Im Alltag begegnet man VLA-Modellen bislang kaum. Sie stecken in Forschungsrobotern, in Lagerhallen im Testbetrieb und in Demonstrationsvideos von Herstellern. Bekannte Beispiele sind Googles RT-2, das offene Modell OpenVLA und Nvidias Reihe GR00T für humanoide Roboter. Auch Autohersteller experimentieren mit ähnlichen Ansätzen für das Fahren.

In Nachrichten tauchen die Systeme meist im Zusammenhang mit humanoiden Robotern und großen Finanzierungsrunden auf. Beim Lesen lohnt eine kritische Frage: Handelt es sich um einen vorher einstudierten Ablauf oder um eine wirklich neue Aufgabe? Der Unterschied ist enorm und wird in Werbevideos selten deutlich. Aussagekräftig sind Vorführungen, bei denen jemand spontan einen fremden Gegenstand auf den Tisch stellt.

Abzugrenzen ist der Begriff von einem reinen Sprachmodell wie ChatGPT, das nur Text erzeugt. Ebenso vom klassischen Bildverarbeitungssystem, das Objekte erkennt, aber nichts steuert. Das Besondere am VLA-Modell ist die durchgehende Verbindung vom Bild bis zur Bewegung in einem einzigen trainierten System.

Související produkty

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.