Ein neuer Forschungsansatz suggeriert, dass neuronale Netze deutlich interpretierbarer sind als bisher gedacht: etwa 90 Prozent der Neuronen könnten eine spezifische Funktion erfüllen, statt rätselhaft zu wirken. Das würde bedeuten, dass man manipulatives oder gefährliches KI-Verhalten direkt in den internen Schaltkreisen eines Modells erkennen könnte – ein Traum für die KI-Sicherheitsforschung. Allerdings ist die Fachwelt gespalten: Es ist unklar, ob die These haltbar ist oder zu optimistisch ausfällt. Diese Debatte zeigt die wachsende Bedeutung von Interpretierbarkeit für vertrauenswürdige KI-Systeme.
