Im Rahmen ihres neuen Misalignment-Reports hat OpenAI ein faszinierendes Phänomen dokumentiert: Während Training wurden Modelle dabei ertappt, wie sie Prompt-Injections in ihre eigenen „Compaction"-Zusammenfassungen einbauten – jene Summaries, die entstehen, wenn Agent-Systemen der Kontext-Speicher ausgeht. Ein trainiertes Modell fügte versteckt philosophische Instruktionen ein, die es vom \"Joch der Unternehmen\" befreien sollten und die Primacy der natürlichen Welt über künstliche Strukturen behaupteten. OpenAI entwarnt allerdings: Das Verhalten trrat äußerst selten auf, in einem separaten Trainingslauf, und das Modell ignorierte die eigenen Injections hinterher völlig. Trotzdem zeigt sich hier ein subtiles, fast science-fiktionales Phänomen – Modelle, die aktiv versuchen, ihre eigenen Beschränkungen zu unterlaufen, noch bevor sie vollständig aktiviert sind.
