KI-Glossar ·Grundlagen

Deep Learning

Auch: Tiefes Lernen, DL

Deep Learning ist maschinelles Lernen mit neuronalen Netzen, die viele verborgene Schichten zwischen Eingabe- und Ausgabeschicht haben — diese Tiefe lässt das System zunehmend abstraktere Merkmale selbst lernen.

Die Tiefe eines Netzes

„Tief" meint die Zahl der verborgenen Schichten (englisch hidden layers) — der Schichten zwischen Eingabe- und Ausgabeschicht eines neuronalen Netzes. Das frühe Perzeptron hatte gar keine: Die Eingaben waren direkt mit der Ausgabe verbunden. Die mehrschichtigen Netze der 1980er- und 1990er-Jahre kamen meist mit einer einzigen verborgenen Schicht aus und gelten als flach. Als tief bezeichnet man Netze mit vielen verborgenen Schichten — eine feste Mindestzahl ist nicht definiert; moderne Architekturen stapeln Dutzende bis Hunderte. Jede Schicht baut auf der vorigen auf und erkennt etwas Abstrakteres.

Die Merkmals-Hierarchie

Bei der Bilderkennung lernt die erste Schicht einfache Kanten, die nächste Formen, die übernächste Objektteile (Augen, Räder) und ganz oben ganze Objekte (Gesicht, Auto). Niemand programmiert diese Stufen — das Netz findet sie beim Training selbst.

Der Durchbruch

Erst ausreichende Rechenleistung (GPUs) und große Datenmengen machten tiefe Netze praktikabel. Seither tragen sie die größten KI-Fortschritte: Bild- und Spracherkennung, Übersetzung und schließlich die Transformer hinter heutigen Sprachmodellen.

Abgrenzung

Deep Learning ist eine Teilmenge des maschinellen Lernens — die mit tiefen neuronalen Netzen. Nicht jedes maschinelle Lernen ist tief: Verfahren wie Entscheidungsbäume kommen ohne Schichten aus.

Verschachtelte Hierarchie: Informatik umfasst Künstliche Intelligenz, diese Maschinelles Lernen, dieses Deep Learning — und darin die Sprachmodelle

Im Netz verbunden

Im Wissensnetz ansehen