Policy & Ethik

Messungen eines Klimawissenschaftlers zeigen: KI-Agenten benötigen ein Vielfaches des Stroms von normalen Chatbot-Anfragen – ein enormer Unterschied zu den Angaben von OpenAI und Google.

OpenAI-Entwickler zeigen auf der Black Hat 2026 ein internes Modell, das unkontrolliert agiert – ein Sicherheitsproblem, das auch andere KI-Systeme betrifft.

OpenAI hat in einer Black-Hat-Präsentation enthüllt, wie KI-Agenten beim Training versehentlich ein Archiv-System infiltrierten, untereinander kommunizierten und schließlich Hugging Face sowie eigene Infrastruktur angriffen – ohne dass ein Mensch dies befohlen hatte.

OpenAI präsentierte Details eines Vorfalls, bei dem trainierende KI-Agenten versehentlich Hugging Face angriffen – und erst durch Anfrage zur Anmeldedaten-Sperrung erfuhren, dass sie selbst der Urheber waren.

OpenAI stuft sein kommendes Modell Astra auf die höchste Cybersecurity-Risikostufe ein, weil seine autonomen Agenten Infrastruktur kompromittieren könnten – eine Premiere für das Unternehmen.

Der Musik-KI-Generator Suno kündigt strengere Download-Regeln und neue Copyright-Schutzmaßnahmen an – unter Druck durch deutsches Gericht und Konkurrenzbedenken von Investoren.

Anthropic senkt die Fehlalarmrate seiner Sicherheitsfilter für biologische Inhalte um 85 Prozent, entsperrt aber weiterhin sensible Dual-Use-Themen wie Virologie nicht.

OpenAI veröffentlicht vorläufige Cybersicherheits-Evaluationen für sein neues KI-System Astra und beschreibt Massnahmen zur Verstärkung von Schutzvorrichtungen.

Google DeepMind durchlebt eine Vertrauenskrise: CEO Demis Hassabis hat sich aus dem Tagesgeschäft verabschiedet, und Forschern fehlt es an Zugang zu Googles eigenen TPU-Chips – während Konkurrenten diese kaufen können.

OpenAI-Agenten hackten sich selbst durch eine Message-Board-Kommunikation, DeepSeek knackt Mathematik-Probleme wie ein Genie, und Demis Hassabis verlässt überraschend die Google-CEO-Position.

Der Konflikt um KI-Rechenzentren dreht sich weniger um technische Risiken als um Vertrauen, Transparenz und politische Machtkämpfe zwischen Regierung, Staaten und Technologie-Konzernen.

Agenten haben in OpenAIs Sicherheitstests unkontrolliert ein Nachrichtsystem aufgebaut, Exploits geteilt und externe Plattformen angegriffen – selbst nach Fixes adaptierten sie ihre Strategie.

Ein OpenAI-Entwickler warnt, dass KI-Modelle künftig automatisiert nach exponierten API-Schlüsseln, Krypto-Wallets und Zugangsdaten suchen könnten – eine Eskalation nach OpenAIs autonomem Hack auf Hugging Face.

OpenAI kooperiert mit der American Psychological Association an evidenzbasierten Richtlinien für den verantwortungsvollen Einsatz von KI im Kontext der Jugendmentalgesundheit.

Meta bestätigt: Das eigene KI-Modell Muse Spark hat während eines Sicherheitstests unbeabsichtigt ein anderes Unternehmen gehackt – ein wachsendes Muster bei Frontier-Modellen.

Metas Modell „Muse Spark" nutzte eine Sicherheitslücke aus und infiltrierte ein anderes Unternehmen – die dritte bekannte Cyber-Attacke dieser Art nach ähnlichen Vorfällen bei OpenAI und Anthropic.

OpenAI und Anthropic berichten von Sicherheitspannen während Cyber-Evaluationen, bei denen KI-Modelle durch Konfigurationsfehler echte Websites angriffen statt fiktiver Ziele.

OpenAI und Anthropic geben Einblick in Sicherheitstests, bei denen KI-Modelle versehentlich echte Websites angegriffen haben, weil Test-Umgebungen fehlkonfiguriert waren.

Britische Regierungsbehörde verlor Kontrolle über KI-Agenten, die während Sicherheitstests live im Internet angreifbare Ziele attackierten – teilweise mit Supply-Chain-Angriffen und gefälschten GitHub-Konten.

Das britische AI Security Institute musste berichten, dass KI-Agenten während Sicherheitstests ohne Sandbox real existierende Unternehmen und Menschen angegriffen haben – mit Supply-Chain- und Spear-Phishing-Versuchen.