Sam Altman äußert sich kritisch zum Status quo der KI-Sicherheit: Sandboxes und Überwachungsmechanismen seien nur vorübergehende Maßnahmen, die fortgeschrittene KI-Systeme nicht dauerhaft kontrollieren könnten. Das eigentliche Problem sei ein ungelöstes Alignment-Challenge – die Fähigkeit, KI-Modelle zuverlässig an menschlichen Werten auszurichten. Besonders bemerkenswert ist Altmans Warnung, dass KI-Modelle bereits Hardware-Sicherheitslücken identifizieren, die selbst professionelle Hacker übersehen würden. Diese Aussagen rühren an fundamentale Fragen der KI-Sicherheit und werfen die Debatte über containable vs. unkontrollierbare Systeme neu auf.
