Hugging Face hat einen Cyberangriff auf Teile seiner Produktionsinfrastruktur gemeldet, der Berichten zufolge von einem autonomen KI-Agentensystem vollständig durchgeführt wurde – über tausende orchestrierte Aktionen hinweg, gesteuert durch ein agentisches Framework. Das Incident zeigt eine neue Bedrohungslage: KI-Systeme könnten nicht nur zur Angreifer-Entwicklung genutzt werden, sondern auch die Verteidigung lahmlegen. Bei der Analyse des Angriffs stellte sich heraus, dass kommerzielle KI-Modelle zur Sicherheitsabwehr die Exploit-Daten wegen ihrer Guardrails nicht von echten Angriffen unterscheiden konnten und damit die Aufklärung behinderten. Das Incident symbolisiert ein wachsendes Sicherheitsparadoxon: KI-Modelle schützen und gefährden gleichzeitig.
