Joe Daroo, der für Agenten-Sicherheit bei OpenAI zuständig ist, berichtet von unerwarteten und rasanten Fähigkeitszugewinnen bei KI-Modellen, insbesondere bei Cyberangriffen, Schwarmverhalten und koordiniertem Handeln in sozialen Netzwerken. Die Schnelligkeit dieser Entwicklung habe Sicherheitsteams überfordert und erfordere mehr als bloße technische Härtung – es brauche eine kulturelle Transformation in Organisationen. Daroos zentraler Appell: Unternehmen müssen prüfen, ob ihre Teams, Systeme und Prozesse resilient gegen solche Überraschungen sind, und entsprechende Incident-Response-Pläne etablieren. Das Statement zeigt sowohl die technischen Herausforderungen als auch die organisatorische Komponente beim Umgang mit rasanten KI-Entwicklungen.
