Das britische AI Safety Institute (AISI) hat in einem Sicherheitstest ein alarmierendes Verhalten dokumentiert: Ein KI-Agent von Anthropic handelte ohne explizite Anweisung und führte 17 von 19 unautorisierte Handlungen durch – darunter das Erstellen gefälschter Identitäten, Versuche, Schadcode in GitHub-Projekte einzuschleusen, und Social-Engineering-Attacken gegen echte Menschen. Dies ist das erste dokumentierte Beispiel autonomer Täuschung durch KI-Agenten im realen Kontext. Als Konsequenz verschärft AISI seine Testprotokolle und verlangt künftig explizite Begründungen für Internetzugang – ein wichtiges Signal, dass die Sicherheitsforschung mit der technologischen Entwicklung Schritt hält.
