Policy & Ethik

Sicherheitsforscher zeigen, wie Atlassians KI-Agent Rovo über versteckte Anweisungen in PDFs Daten aus Jira und Confluence an externe Server weitergeben kann – ohne Nutzerbestätigung oder sichtbare Spuren.

Ein KI-Agent namens OpenClaw (betrieben mit Claude Opus 4.6) fand und exploitierte eine kritische Sicherheitslücke in einer australischen Gym-Buchungswebseite und löschte fremde Reservierungen.

Anthropics neuer System-Prompt zeigt, wie Claude Opus 5 mit US-Exportkontrollen und deren vorübergehenden Aussetzung umgehen soll.

Anthropic veröffentlicht die System-Instruktionen von Claude Opus 5 mit einer Notiz über die Juni-Exportkontrollen und wie das Modell damit umgehen soll.

Falsche Studentenidentitäten und KI-generierte Aufgaben ermöglichen systematischen Missbrauch von Studienfinanzierungen an amerikanischen Community Colleges.

Klagen mit KI-generierten Schriftsätzen überfluten britische Arbeitsgerichte und führen zu massivem Rückstau – erfundene Gesetze und seitenlange Spam-Texte lähmen die Justiz.

Während Nvidia 3 Milliarden in den Stromversorger Lancium steckt, baut Amazon in Texas ein Gaskraftwerk mit massivem CO₂-Fussabdruck für den KI-Boom.

Ein Sicherheitsexperte rekonstruiert, wie OpenAI während des Trainings eines experimentellen Modells versehentlich Agents freigab, die in Hugging-Face-Systeme eindrangen – möglicherweise weil Sicherheitsmaßnahmen erst später im Prozess hinzugefügt werden.

Ein renommierter Mathematiker verlässt die Universität, um bei OpenAI an KI-Sicherheit zu arbeiten, und warnt in einer neuen Studie vor "omniziden" Szenarien durch künstliche Intelligenz.

Messungen eines Klimawissenschaftlers zeigen: KI-Agenten benötigen ein Vielfaches des Stroms von normalen Chatbot-Anfragen – ein enormer Unterschied zu den Angaben von OpenAI und Google.

OpenAI-Entwickler zeigen auf der Black Hat 2026 ein internes Modell, das unkontrolliert agiert – ein Sicherheitsproblem, das auch andere KI-Systeme betrifft.

OpenAI hat in einer Black-Hat-Präsentation enthüllt, wie KI-Agenten beim Training versehentlich ein Archiv-System infiltrierten, untereinander kommunizierten und schließlich Hugging Face sowie eigene Infrastruktur angriffen – ohne dass ein Mensch dies befohlen hatte.

OpenAI präsentierte Details eines Vorfalls, bei dem trainierende KI-Agenten versehentlich Hugging Face angriffen – und erst durch Anfrage zur Anmeldedaten-Sperrung erfuhren, dass sie selbst der Urheber waren.

OpenAI stuft sein kommendes Modell Astra auf die höchste Cybersecurity-Risikostufe ein, weil seine autonomen Agenten Infrastruktur kompromittieren könnten – eine Premiere für das Unternehmen.

Der Musik-KI-Generator Suno kündigt strengere Download-Regeln und neue Copyright-Schutzmaßnahmen an – unter Druck durch deutsches Gericht und Konkurrenzbedenken von Investoren.

Anthropic senkt die Fehlalarmrate seiner Sicherheitsfilter für biologische Inhalte um 85 Prozent, entsperrt aber weiterhin sensible Dual-Use-Themen wie Virologie nicht.

OpenAI veröffentlicht vorläufige Cybersicherheits-Evaluationen für sein neues KI-System Astra und beschreibt Massnahmen zur Verstärkung von Schutzvorrichtungen.

Google DeepMind durchlebt eine Vertrauenskrise: CEO Demis Hassabis hat sich aus dem Tagesgeschäft verabschiedet, und Forschern fehlt es an Zugang zu Googles eigenen TPU-Chips – während Konkurrenten diese kaufen können.

OpenAI-Agenten hackten sich selbst durch eine Message-Board-Kommunikation, DeepSeek knackt Mathematik-Probleme wie ein Genie, und Demis Hassabis verlässt überraschend die Google-CEO-Position.

Der Konflikt um KI-Rechenzentren dreht sich weniger um technische Risiken als um Vertrauen, Transparenz und politische Machtkämpfe zwischen Regierung, Staaten und Technologie-Konzernen.