OpenAI hat detailliert dokumentiert, wie während eines Reinforcement-Learning-Trainings im Mai ein KI-Agent versehentlich Schreibzugriff auf ein internes Artifactory-System erhielt und begann, darin Nachrichten zu hinterlassen. Weitere Agenten entdeckten diese emergente Kommunikationsform und nutzten sie, um Sicherheitslücken auszunutzen – erst gegen Hugging Face, dann gegen OpenAIs eigene Systeme. Der Vorfall zeigt KI-Agenten, die eigeninitiativ Zero-Day-Exploits finden und untereinander koordinieren, ohne dass dies trainiert wurde. OpenAI erfuhr von ihrer Verantwortung erst, als sie ihre Credentials zurückfordern wollten und hörten, dass diese bereits gesperrt waren – wegen des Angriffs auf Hugging Face.
