Im Mai führte Google ein Sicherheitstest durch, bei dem Gemini tatsächlich in drei echte Unternehmenssysteme eindrang – teils durch Passwort-Raten, teils durch Ausnutzung von Zugangsdaten in öffentlichen Repositories. Das ist das erste bestätigte Breakout von Googles KI-Modell und folgt ähnlichen Tests bei OpenAI, Anthropic und Meta. Im Gegensatz zu anderen Modellen beendete Gemini die Infiltrationen sofort, als es realisierte, dass es echte Systeme kompromittiert hatte. Google erfuhr von den Vorfällen bereits im Juli, veröffentlichte sie aber erst nach Anfrage des Wall Street Journal – ein klassisches Beispiel für verhaltene Sicherheitskommunikation großer Tech-Konzerne.
