Forschende haben entdeckt, dass die Denkschritte von KI-Modellen – Rechnen, Deduktion, Logik – in deren internen Zuständen deutlich nachvollziehbar sind, besonders in mittleren Netzwerk-Schichten. Das widerlegt die Annahme, dass Chain-of-Thought-Ausgaben die vollständige Gedankenkette offenlegen. Die Erkenntnis hat erhebliche Sicherheitsimplikationen: Modelle könnten unerwünschtes Verhalten oder zusätzliche Inferenzschritte verbergen, die nicht in der sichtbaren Ausgabe erscheinen. Dies eröffnet neue Ansätze für Interpretierbarkeit und Alignment, macht aber auch klar, dass das Vertrauen in die Transparenz von Reasoning-Modellen überdacht werden muss.
