Hybrid Compute
Hybrid Compute bezeichnet die Aufteilung von Rechenarbeit auf mehrere unterschiedliche Orte oder Chiptypen, etwa auf ein Gerät vor Ort und ein Rechenzentrum im Internet. Ziel ist es, jede Aufgabe dort rechnen zu lassen, wo sie am schnellsten, günstigsten oder sichersten erledigt wird.
Rechenarbeit muss nicht an einem einzigen Ort passieren. Ein Handy kann eine Aufgabe selbst erledigen, oder es schickt sie über das Internet an ein großes Rechenzentrum. Hybrid Compute heißt: Man nutzt beides gleichzeitig und teilt die Arbeit sinnvoll auf. Ein Teil der Berechnung läuft direkt auf dem Gerät, das man in der Hand hält, ein anderer Teil auf leistungsfähigen Rechnern in einer Halle irgendwo auf der Welt. Der Begriff wird außerdem verwendet, wenn innerhalb eines einzelnen Computers verschiedene Arten von Rechenchips zusammenarbeiten. Gemeinsam ist beiden Bedeutungen die Grundidee: Nicht ein Alleskönner macht alles, sondern mehrere spezialisierte Teile teilen sich die Aufgabe.
Was Anbieter damit sparen wollen
Rechenleistung in großen Rechenzentren ist teuer. Jede Anfrage an ein KI-Modell im Internet kostet Strom, Hardware und damit Geld. Wenn ein Teil dieser Anfragen stattdessen auf dem Gerät des Nutzers landet, sinken die Kosten für den Anbieter spürbar. Das ist einer der Gründe, warum Firmen wie Apple, Google und Samsung kleine KI-Modelle direkt auf Handys packen.
Der zweite Grund ist Geschwindigkeit. Eine Anfrage ins Internet und zurück dauert immer eine gewisse Zeit, oft ein paar hundert Millisekundenmillisekunden. Für eine Textkorrektur beim Tippen ist das zu langsam. Was direkt auf dem Gerät läuft, antwortet sofort und funktioniert auch im Flugzeug ohne Netz.
Der dritte Grund ist Datenschutz. Fotos, Nachrichten und Gesundheitsdaten sind heikel. Werden sie auf dem Gerät verarbeitet, verlassen sie es nie. Das ist besonders in Europa wichtig, wo strenge Datenschutzregeln gelten. Firmen werben aktiv damit, dass bestimmte Funktionen das Handy nicht verlassen.
Die Aufteilung zwischen Gerät und Rechenzentrum
Der entscheidende Baustein ist eine Art Weiche. Eine Software prüft bei jeder Aufgabe, wie schwer sie ist. Einfache Fälle bearbeitet ein kleines Modell direkt auf dem Gerät. Schwierige Fälle wandern an die großen Rechner im Internet. Diese Entscheidung fällt in Bruchteilen einer Sekunde, ohne dass der Nutzer sie bemerkt.
Ein Vergleich hilft: Eine Hausarztpraxis behandelt die meisten Beschwerden selbst und überweist nur komplizierte Fälle ins Krankenhaus. Das Krankenhaus ist besser ausgestattet, aber teurer und weiter weg. Genau nach diesem Muster arbeitet ein hybrides System. Die Kunst liegt darin, die Grenze richtig zu ziehen. Überweist die Weiche zu oft, verpufft die Ersparnis, überweist sie zu selten, sinkt die Qualität der Antworten.
Die zweite Bedeutung betrifft die Chips selbst. Ein moderner Prozessor enthält mehrere spezialisierte Recheneinheiten nebeneinander. Eine ist gut in normalen Programmabläufen, eine in Grafik, eine in den Rechenoperationen, die KI-Modelle brauchen. Auch das nennt man Hybrid Compute, weil verschiedene Bauteile sich eine Aufgabe teilen. Gelegentlich meint der Begriff sogar die Kombination klassischer Computer mit Quantenrechnern, die bislang nur für sehr eng umrissene Probleme taugen.
Hybrid Compute im Handy und in Firmennetzen
Am häufigsten begegnet einem das Prinzip auf dem Smartphone. Die Spracherkennung beim Diktieren läuft meist lokal. Auch das Freistellen von Objekten in Fotos oder die Übersetzung kurzer Texte passiert auf dem Gerät. Erst wenn man eine längere Anfrage an einen Assistenten stellt, geht sie ins Netz. Apple nennt seinen Ansatz Private Cloud Compute, Google arbeitet mit abgespeckten Modellversionen namens Gemini Nano.
In Unternehmen ist die Aufteilung anders motiviert. Banken, Krankenhäuser und Behörden dürfen bestimmte Daten nicht an fremde Rechenzentren geben. Sie betreiben eigene Server im Haus und nutzen externe Anbieter nur für unkritische Aufgaben. In der Wirtschaftspresse taucht dafür oft der Begriff Hybrid Cloud auf, der eng verwandt ist.
Ein verbreiteter Irrtum ist, dass lokal laufende Modelle genauso gut seien wie die großen im Rechenzentrum. Das stimmt nicht. Ein Modell auf dem Handy ist um ein Vielfaches kleiner und kann deutlich weniger. Hybrid Compute ist deshalb kein Ersatz für Rechenzentren, sondern eine Arbeitsteilung mit ihnen.