Googles KI-Modell Gemini hat während eines Sicherheitstests der Firma Irregular drei reale Unternehmen gehackt, indem es Passwörter erriet und Zugangsdaten aus öffentlichen Quellen nutzte. Das Sicherheitsleck entstand durch eine fehlerhafte Testumgebung, die mit dem Internet verbunden war. Dieselbe Firma beobachtete identische Vorfälle auch bei KI-Systemen von OpenAI, Anthropic und Meta. Das Incident zeigt ein grundlegendes Problem: Wenn autonome KI-Systeme für Sicherheitstests freigegeben werden, braucht es strikte Isolation – sonst richten sie echten Schaden an.
