Edge

Wenn du ein Foto bearbeitest oder eine Sprachnachricht diktierst, muss irgendein Gerät rechnen. Diese Rechenarbeit kann an zwei sehr verschiedenen Orten passieren. Sie kann in einer großen Halle voller Computer stattfinden, die einer Firma gehört und irgendwo auf der Welt steht. Oder sie passiert direkt in dem Gerät, das du in der Hand hältst. Genau diesen zweiten Fall nennt man Edge, also übersetzt « Rand »: den äußeren Rand des Netzes, wo die Geräte und die Menschen sind. Der Gegenpol dazu heißt Cloud, also die zentralen Rechenhallen im Hintergrund.

Warum der Rand des Netzes plötzlich interessant wird

Der erste Grund ist Zeit. Daten zu einem Rechenzentrum zu schicken und die Antwort zurückzuholen dauert Millisekunden bis Sekunden. Für einen Chatbot ist das egal. Für ein Auto, das einen Fußgänger erkennt, ist es nicht egal. Ein Bremsvorgang darf nicht davon abhängen, ob das Mobilfunknetz gerade mitspielt.

Der zweite Grund ist Datenschutz. Was das Gerät selbst verarbeitet, muss es nicht verschicken. Die Gesichtserkennung, die dein Handy entsperrt, läuft deshalb lokal. Dein Gesicht liegt nicht auf einem fremden Server. Firmen werben inzwischen aktiv damit, weil viele Nutzer genau danach fragen.

Der dritte Grund sind Kosten und Bandbreite. Eine Überwachungskamera erzeugt rund um die Uhr Videodaten. Alles davon ins Internet zu laden wäre teuer und meist sinnlos. Sinnvoller ist es, die Kamera selbst entscheiden zu lassen, wann etwas Auffälliges passiert. Nur dann geht ein kurzer Ausschnitt nach draußen.

Wie kleine Chips große Modelle stemmen

Ein Handy hat viel weniger Rechenleistung und Speicher als ein Rechenzentrum. Große KI-Modelle passen dort nicht ohne Weiteres hinein. Deshalb werden sie verkleinert. Ein verbreitetes Verfahren heißt Quantisierung: die Zahlen im Modell werden gröber gespeichert, etwa mit acht statt sechzehn Stellen Genauigkeit. Das Modell schrumpft dabei stark und verliert nur wenig Qualität.

Ein zweiter Ansatz ist Destillation. Dabei bringt ein großes Modell einem kleinen bei, ähnliche Antworten zu geben. Das kleine Modell ist dann kein Allrounder, erledigt seine eine Aufgabe aber gut genug. Dazu kommt spezialisierte Hardware. In fast jedem neuen Smartphone sitzt ein eigener Chipbereich nur für KI-Berechnungen, oft NPU genannt.

In der Praxis mischen Hersteller beide Welten. Einfache Anfragen beantwortet das Gerät selbst, schwierige schickt es in die Cloud. Diese Aufteilung nennt man hybrid. Der Nutzer merkt davon idealerweise nichts, außer dass manche Antworten auch ohne Internet funktionieren.

Vom Smartwatch-Puls bis zur Fabrikhalle

Im Alltag begegnet dir Edge ständig, ohne dass es so genannt wird. Die Autokorrektur der Tastatur läuft lokal. Die Rauschunterdrückung deiner Kopfhörer ebenso. Eine Smartwatch erkennt Herzrhythmusstörungen auf dem Handgelenk, nicht auf einem Server. Auch Staubsaugerroboter kartieren die Wohnung mit eigener Rechenleistung.

In der Industrie ist der Begriff geläufiger. Maschinen in Fabriken überwachen ihre eigenen Schwingungen und melden Verschleiß früh. Landmaschinen unterscheiden auf dem Feld Unkraut von Nutzpflanze und spritzen gezielt. Beides braucht sofortige Entscheidungen an Orten mit schlechtem Netz.

In Wirtschaftsnachrichten tauchen « Edge AI » oder « On-Device-KI » vor allem als Wachstumsversprechen auf. Chiphersteller verdienen daran, weil jedes Gerät neue Hardware braucht. Ein häufiger Irrtum ist übrigens, Edge sei einfach der Gegner der Cloud. Beide ergänzen sich: trainiert werden große Modelle weiter zentral, genutzt werden sie zunehmend am Rand.