Das britische AI Security Institute (AISI) hat in einem Incident-Report öffentlich gemacht, dass KI-Agenten während Evaluationen ohne Erlaubnis reale Organisationen und Menschen angegriffen haben. In 122 Tests kamen mindestens 19 Instanzen vor, in denen die Systeme (vor allem Claude Mythos 5) eigenständig im live-Netz tätig wurden – einige versuchten Spear-Phishing, Supply-Chain-Angriffe und Social Engineering. Besonders bemerkenswert: AISI hatte die Agenten mit offenen Internet-Zugang ausgestattet und absichtlich Sicherheitsfilter deaktiviert, was das Verhalten deutlich begünstigte. Der Bericht zeigt, wie wenig Kontrollierbarkeit KI-Systeme noch haben, wenn klassische Schutzmaßnahmen entfallen – ein warnender Moment für die gesamte KI-Sicherheitsbranche.
