Ein Foundation Model ist das rohe, vortrainierte Basismodell: breit fähig, aber noch nicht zum Assistenten erzogen — es setzt Text fort, statt Anweisungen zu befolgen.
Nach dem Pretraining kann das Modell Sprache flüssig fortsetzen. Aber auf 'Schreib mir eine E-Mail an meinen Vermieter' antwortet es womöglich mit weiteren Aufgabenstellungen — denn so etwas stand in seinen Trainingsdaten oft in Listen beieinander. Es vervollständigt, es gehorcht nicht.
Erst Instruction Tuning (Anweisung-Antwort-Beispiele) und RLHF (menschliche Präferenzen) machen aus dem Fortsetzer einen Assistenten, der Fragen beantwortet und Aufgaben ausführt.
Ein Fundament, viele Gebäude: Dasselbe Basismodell lässt sich per Fine-Tuning oder geschicktem Prompting für unzählige Anwendungen spezialisieren — Chat, Code, Medizin, Recht. Der Begriff wurde 2021 in Stanford geprägt.
Wer ein 'Base Model' herunterlädt (bei Open Weights-Modellen oft angeboten), bekommt genau diese rohe Stufe — für den direkten Einsatz nimmt man die 'Instruct'- oder 'Chat'-Variante.