Richard Sutton, legendärer KI-Forscher und Turing-Preisträger, stellt sich gegen einen Kerntrend beim Skalieren moderner LLMs: die Nutzung synthetischer Daten. Sein Argument ist provokativ – synthetische Simulationen seien gegenüber der unendlichen Komplexität der realen Welt "mikroskopisch" klein und könnten echtes Skalieren nicht ermöglichen. Sutton propagiert stattdessen ein neues Paradigma: Agenten, die kontinuierlich aus ihrer eigenen Interaktion mit der Welt lernen, statt auf eingefrorene, trainierte Modelle zu verlassen. Dies ist mehr als ein technisches Papier – es ist eine grundsätzliche Infragestellung einer zentralen Strategie der KI-Industrie und könnte die Debatte über die Skalierungsgrenzen von LLMs neu prägen.
