Unter einem Weltmodell versteht man eine interne Repräsentation der Umgebung, aus der ein System ableiten kann, was geschieht, wenn sich etwas ändert. Es kann von Hand formalisiert oder aus Beobachtung gelernt sein.
Der Ausdruck hat zwei Herkünfte, die sich in der heutigen Debatte überlagern. Die Symbolische KI verstand unter einem Weltmodell eine von Menschen aufgeschriebene Beschreibung des Gegenstandsbereichs: SHRDLU kannte in den 1970er-Jahren jeden Klotz seiner Blockwelt und jede Beziehung zwischen ihnen und konnte deshalb sagen, was ein Befehl bewirken würde. In der heutigen Verwendung ist ein Weltmodell dagegen gelernt — eine Struktur, die ein System aus Daten bildet, ohne dass jemand sie hineingeschrieben hätte.
Der Unterschied, auf den es ankommt, ist der zwischen Reagieren und Ableiten. Ein System ohne Weltmodell ordnet Eingaben Ausgaben zu; ELIZA formte 1966 Sätze nach Mustern um, ohne dass irgendwo stand, wovon die Rede war. Ein System mit Weltmodell kann dagegen beantworten, was bei einer Veränderung folgen würde — und lässt sich an dieser Vorhersage prüfen.
Yann LeCun, langjähriger Leiter der KI-Forschung bei Meta, hält Sprachmodelle für den falschen Weg zu allgemeiner Intelligenz und arbeitet stattdessen an Systemen, die abstrakte Repräsentationen ihrer Umgebung aus Beobachtung lernen statt Wortfolgen aus Text. Sein Mengenargument: Ein Kleinkind sammle über Augen, Ohren und Hände in wenigen Jahren mehr Sinnesdaten als in den größten Textkorpora stecken — und es sammle sie handelnd statt passiv. Verwandt ist der Einwand des moravecschen Paradoxes: Was sich nicht in Sätzen ausdrücken lässt, steht auch in keinem Trainingstext.
Ob Sprachmodelle ihrerseits Weltmodelle bilden, ist empirisch untersucht worden. Ein bekannter Befund stammt von Li und Kollegen (2023): Ein Transformer, der ausschließlich Zugfolgen des Brettspiels Othello als Text gesehen hatte, bildete intern eine Darstellung des Spielbretts aus — und änderte seine Züge passend, wenn diese Darstellung gezielt manipuliert wurde. Die Repräsentation lief also nicht bloß mit, sie wurde benutzt. Andere Untersuchungen finden in denselben Modellen Bereiche, in denen nur überlappende Daumenregeln arbeiten. Die Forschung fragt deshalb weniger, ob ein Modell die Welt repräsentiert, als wie viel, wo — und wo nicht.
Die Gegenposition zu gelernten Weltmodellen trägt den Namen Stochastischer Papagei: Ein Sprachmodell verkette demnach Wortformen nach Wahrscheinlichkeit, ohne Bezug auf das, wofür sie stehen. Die Othello-Befunde sprechen gegen diese These in ihrer starken Fassung, ohne sie für alle Bereiche zu widerlegen.
Hallo! Ich bin dein KI-Tutor.
Melde dich an, um mit mir zu chatten — ich erinnere mich dann auch an eure letzten Gespräche.
