KI-Glossar ·LLM

Foundation Model

Auch: Basismodell, Base Model, Grundmodell

Ein Foundation Model ist das rohe, vortrainierte Basismodell: breit fähig, aber noch nicht zum Assistenten erzogen — es setzt Text fort, statt Anweisungen zu befolgen.

Fähigkeiten und Grenzen

Nach dem Pretraining kann das Modell Sprache flüssig fortsetzen. Aber auf 'Schreib mir eine E-Mail an meinen Vermieter' antwortet es womöglich mit weiteren Aufgabenstellungen — denn so etwas stand in seinen Trainingsdaten oft in Listen beieinander. Es vervollständigt, es gehorcht nicht.

Vom Basismodell zum Assistenten

Erst Instruction Tuning (Anweisung-Antwort-Beispiele) und RLHF (menschliche Präferenzen) machen aus dem Fortsetzer einen Assistenten, der Fragen beantwortet und Aufgaben ausführt.

Der Name 'Foundation'

Ein Fundament, viele Gebäude: Dasselbe Basismodell lässt sich per Fine-Tuning oder geschicktem Prompting für unzählige Anwendungen spezialisieren — Chat, Code, Medizin, Recht. Der Begriff wurde 2021 in Stanford geprägt.

Einordnung

Wer ein 'Base Model' herunterlädt (bei Open Weights-Modellen oft angeboten), bekommt genau diese rohe Stufe — für den direkten Einsatz nimmt man die 'Instruct'- oder 'Chat'-Variante.

Im Netz verbunden

ist ein/eine
LLM
setzt voraus
Voraussetzung für
Im Wissensnetz ansehen