KI-Glossar ·Llm

Training

Auch: Trainieren

Training ist die Phase, in der ein Modell aus Daten lernt, indem seine Parameter angepasst werden. Es ist rechenintensiv und geschieht einmalig oder selten — anders als die ständige Inferenz.

Was dabei passiert

Das Modell bekommt Daten, macht Vorhersagen, misst den Fehler (etwa per Cross-Entropy) und justiert per Backpropagation seine Gewichte minimal in die bessere Richtung. Über Milliarden solcher Schritte entsteht aus zufälligen Anfangswerten ein fähiges Modell.

Phasen

Bei Sprachmodellen unterscheidet man das Vortraining (riesige Textmengen, allgemeines Sprachkönnen) und spätere Schritte wie Fine-Tuning oder die Ausrichtung an menschlichem Feedback, die das Modell auf Verhalten und Aufgaben zuschneiden.

Abgrenzung

Training ist teuer und selten; das Anwenden des fertigen Modells (Inferenz) ist der ständige Normalbetrieb. Beim Training ändern sich die Gewichte, bei der Inferenz nicht.

Im Netz verbunden

setzt voraus
Voraussetzung für
abzugrenzen von
Im Wissensnetz ansehen