Binärrauschen

Binärrauschen

Binärrauschen ist eine zufällige Störung, die nur zwei mögliche Werte kennt: an oder aus, 0 oder 1. In der Technik entsteht es als Fehler bei der Übertragung von Daten, in der KI wird es absichtlich erzeugt, um Modelle robuster zu machen.

Rauschen nennt man in der Technik jede zufällige Störung, die sich über ein Signal legt. Beim Radio hört man es als Knistern, auf alten Fotos sieht man es als Körnung. Meist ist diese Störung stufenlos: ein Wert wird ein bisschen zu hoch oder ein bisschen zu niedrig. Binärrauschen funktioniert anders. Es kennt nur zwei Zustände, etwa 0 und 1 oder schwarz und weiß. Jeder gestörte Punkt springt also komplett um, statt sich nur leicht zu verschieben. Ein bekanntes Beispiel ist ein Bild, in dem einzelne Pixel plötzlich rein weiß oder rein schwarz sind.

Warum ausgerechnet zwei Zustände so viel Ärger machen

Computer speichern alles als Folge von Nullen und Einsen. Kippt bei der Übertragung ein einzelnes dieser Zeichen um, entsteht genau diese Art von Störung. Der Schaden ist dabei schwer vorherzusagen. Kippt ein unwichtiges Zeichen, merkt niemand etwas. Kippt ein wichtiges, kann eine ganze Datei unlesbar werden.

Das unterscheidet Binärrauschen von der weichen Variante, dem sogenannten Gauß-Rauschen, bei dem alle Werte nur leicht verwackeln. Weiche Störungen kann man oft herausmitteln, indem man benachbarte Messwerte zusammenrechnet. Bei harten Umschlägen funktioniert das schlecht. Ein einzelner weißer Pixel mitten in einem dunklen Bereich verfälscht den Durchschnitt seiner Nachbarn stark. Deshalb braucht es andere Filter, die einen Ausreißer erkennen und ersetzen, statt ihn einzurechnen.

Für die Praxis heißt das: Systeme, die mit Binärrauschen rechnen müssen, brauchen eingebaute Sicherungen. Ohne sie wäre keine Funkverbindung und keine Festplatte zuverlässig genug für ernsthafte Anwendungen.

Wie die Störung entsteht und wie man sie wieder loswird

Die Ursachen sind physikalisch. In einem Funksignal überlagern sich elektromagnetische Störungen, ein Speicherchip verliert durch Wärme oder Alterung seine Ladung, ein Kamerasensor hat defekte Bildpunkte. In allen Fällen entscheidet die Elektronik am Ende zwischen zwei Möglichkeiten und entscheidet manchmal falsch. Beschreiben lässt sich das mit einer einzigen Zahl: der Wahrscheinlichkeit, dass ein einzelnes Zeichen umkippt. Liegt sie bei einem Prozent, ist im Schnitt eines von hundert Zeichen falsch.

Gegen solche Fehler helfen Prüfverfahren, die zusätzliche Informationen mitsenden. Im einfachsten Fall verschickt man jede Nachricht dreimal und nimmt am Ende die Version, die zweimal vorkommt. Moderne Verfahren sind sparsamer und schaffen es, Fehler nicht nur zu erkennen, sondern direkt zu korrigieren. Bei Bildern nutzt man dagegen oft den Medianfilter: Er ersetzt jeden Punkt durch den mittleren Wert seiner Nachbarn, wodurch einzelne Ausreißer verschwinden.

In der KI dreht man den Spieß um und erzeugt die Störung absichtlich. Beim Training zeigt man einem Modell absichtlich beschädigte Daten und verlangt trotzdem die richtige Antwort. Das zwingt es, sich nicht auf einzelne Details zu verlassen. Ein verwandter Trick heißt Dropout: Dabei werden während des Trainings zufällig Teile des Netzes abgeschaltet, ebenfalls nach dem Prinzip an oder aus.

Von der Kratzerplatte bis zum Trainingslauf

Im Alltag begegnet einem das Phänomen ständig, ohne dass es einen Namen bekommt. Eine zerkratzte DVD zeigt Klötzchen im Bild, ein schlechter Funkempfang lässt Sprachnachrichten stocken, ein alter USB-Stick liefert plötzlich eine kaputte Datei. Dahinter stecken jedes Mal umgekippte Nullen und Einsen. Dass so etwas selten vorkommt, liegt an den Korrekturverfahren, die im Hintergrund arbeiten.

In Fachnews taucht der Begriff vor allem in zwei Zusammenhängen auf. Erstens bei Quantencomputern, deren Recheneinheiten extrem störanfällig sind und deshalb aufwendige Fehlerkorrektur brauchen. Zweitens beim Training von KI-Modellen, wo künstlich hinzugefügte Störungen als Methode gelten, Überanpassung zu vermeiden. Überanpassung bedeutet, dass ein Modell seine Trainingsbeispiele auswendig lernt und bei neuen Daten versagt.

Ein häufiger Irrtum ist, Binärrauschen mit dem Rauschen in Bilderzeugungs-Modellen zu verwechseln. Dort wird ein Bild schrittweise in eine gleichmäßige Körnung aufgelöst und wieder aufgebaut. Diese Körnung ist aber weich und stufenlos, nicht binär. Beide Verfahren nutzen Zufall, folgen aber unterschiedlichen Regeln.

Subscribe free. Unsubscribe the second it sucks.

High-signal news across AI, business, UX, and tech. Every morning.