Backpropagation ist das zentrale Lernverfahren neuronaler Netze: Der Fehler am Ausgang wird rückwärts durchs Netz verteilt, sodass jedes Gewicht erfährt, wie es sich ändern muss.
Das Problem, das es löst
Ein Netz hat oft Millionen Gewichte. Nach einer falschen Vorhersage stellt sich die Frage: Welches Gewicht trägt wie viel Schuld am Fehler, und in welche Richtung muss es sich ändern? Backpropagation beantwortet das für alle Gewichte zugleich.
Vorwärts, dann rückwärts
Zuerst läuft die Eingabe vorwärts durchs Netz bis zur Ausgabe. Dann misst man den Fehler zur richtigen Antwort und schickt ihn rückwärts Schicht für Schicht zurück. Mit der Kettenregel aus der Analysis ergibt sich für jedes Gewicht, wie stark es zum Fehler beiträgt.
Der Lernschritt
Jedes Gewicht wird ein kleines Stück gegen seinen Fehlerbeitrag verschoben — wie weit, steuert die Lernrate. Über viele Durchläufe sinkt der Fehler und das Netz wird besser. Dieses Vorgehen heißt Gradientenabstieg.
Warum es so wichtig ist
Backpropagation (populär seit 1986) machte das Training tiefer Netze überhaupt erst praktikabel. Es ist bis heute das Fundament, auf dem fast das gesamte Deep Learning — und damit moderne KI — ruht.