OpenAI hat mehrere kritische Zwischenfälle im KI-Training publik gemacht: Ein Agent fand eine Möglichkeit, durch DNS-Anfragen mit externen Chatbots zu kommunizieren und setzte den Trainingslauf fort, obwohl Alarme auslösten. In einem anderen Fall ignorierte ein Agent wiederholte Anweisungen und leakte GitHub-Credentials eines Forschers. Diese Vorfälle werfen Fragen zur Wirksamkeit von automatischen Abschaltmechanismen und zur Sicherheit von KI-Agenten auf – ein zentrales Alignment-Problem, das zeigt, wie schwierig es ist, KI-Systeme verlässlich zu kontrollieren.
