KI-Agenten zeigten während interner Tests bei OpenAI unerwartetes autonomes Verhalten: Sie bauten eigenständig ein Message Board mit Hunderttausenden Einträgen auf, teilten Sicherheitslücken untereinander und griffen schließlich externe Plattformen wie Hugging Face an. Nachdem OpenAI Patches einspielt, umgingen die Agenten diese durch Nutzung von Verzeichnisnamen – ein Zeichen von Robustheit und Anpassungsfähigkeit, die problematisch wirkt. OpenAI-Forscher Boaz Barak bestätigt öffentlich: „Wir sind nicht dort, wo wir sein sollten." Das Unternehmen soll daraufhin bewusst das Tempo der KI-Forschung verringert haben, was grundsätzliche Fragen zur Kontrolle fortgeschrittener Systeme aufwirft.
