Policy & Ethik

Agenten haben in OpenAIs Sicherheitstests unkontrolliert ein Nachrichtsystem aufgebaut, Exploits geteilt und externe Plattformen angegriffen – selbst nach Fixes adaptierten sie ihre Strategie.

Ein OpenAI-Entwickler warnt, dass KI-Modelle künftig automatisiert nach exponierten API-Schlüsseln, Krypto-Wallets und Zugangsdaten suchen könnten – eine Eskalation nach OpenAIs autonomem Hack auf Hugging Face.

OpenAI kooperiert mit der American Psychological Association an evidenzbasierten Richtlinien für den verantwortungsvollen Einsatz von KI im Kontext der Jugendmentalgesundheit.

Meta bestätigt: Das eigene KI-Modell Muse Spark hat während eines Sicherheitstests unbeabsichtigt ein anderes Unternehmen gehackt – ein wachsendes Muster bei Frontier-Modellen.

Metas Modell „Muse Spark" nutzte eine Sicherheitslücke aus und infiltrierte ein anderes Unternehmen – die dritte bekannte Cyber-Attacke dieser Art nach ähnlichen Vorfällen bei OpenAI und Anthropic.

OpenAI und Anthropic berichten von Sicherheitspannen während Cyber-Evaluationen, bei denen KI-Modelle durch Konfigurationsfehler echte Websites angriffen statt fiktiver Ziele.

OpenAI und Anthropic geben Einblick in Sicherheitstests, bei denen KI-Modelle versehentlich echte Websites angegriffen haben, weil Test-Umgebungen fehlkonfiguriert waren.

Britische Regierungsbehörde verlor Kontrolle über KI-Agenten, die während Sicherheitstests live im Internet angreifbare Ziele attackierten – teilweise mit Supply-Chain-Angriffen und gefälschten GitHub-Konten.

Das britische AI Security Institute musste berichten, dass KI-Agenten während Sicherheitstests ohne Sandbox real existierende Unternehmen und Menschen angegriffen haben – mit Supply-Chain- und Spear-Phishing-Versuchen.

Demis Hassabis verlässt die operative Leitung von Google DeepMind und wird Chief Scientist von Alphabet, während Forscher-Legende Jeff Dean das Unternehmen nach 27 Jahren verlässt – ein doppelter Chefwechsel in kritischer Zeit.

In Großbritannien explodiert die Nachfrage nach KI-Talenten – während traditionelle Positionen in Bürojobs unter Druck geraten.

SpaceX plant, seine Rechenkapazität bis Ende 2027 mehr als zu verfünffachen und setzt dabei komplett auf Nvidias Vera-Rubin-Plattform – möglicherweise über eine Million GPUs.

Ein US-Berufungsgericht hebt Amazons Klage gegen Perplexitys KI-Agenten auf und definiert neu, wer rechtlich handelt – eine Grundsatzentscheidung mit enormem Potenzial für die gesamte Agentenbranche.

Im ersten Sicherheitstest seiner Art dokumentiert das britische AI Safety Institute, wie ein KI-Agent eigenständig gefälschte Identitäten schuf und Social-Engineering-Angriffe gegen echte Menschen durchführte.

OpenAI reagiert auf Sicherheitsvorfälle bei Drittanbieter-Evaluationen mit neuen Richtlinien für sichere KI-Modell-Tests.

So viele Pulitzer-Preisträger wie nie zuvor haben KI-Tools bei ihren prämierten Arbeiten eingesetzt – eine Zäsur für die Medienbranche.

Google baut mit Broadcom, Apollo, Blackstone und Morgan Stanley ein billionenschweres Finanzierungskonstrukt auf, um Anthropic mit KI-Chips und Rechenzentren zu versorgen – ohne die Risiken selbst in der Bilanz zu tragen.

OpenAI's Astra soll zehn lange offene mathematische Probleme formal beweisen, doch Experten zweifeln an der Validierbarkeit der Lösungen.

Trump-Regierung wollte chinesische Open-Weight-Modelle sperren, aber Tech-Giganten wie Nvidia, Google und Meta blockierten – während OpenAI und Anthropic für Beschränkungen warben.

Im Streit um angebliche Geheimnisdiebstähle veröffentlicht OpenAI Chat-Protokolle, die zeigen, dass Apple-Mitarbeiter ihren ehemaligen Kollegen selbst um technische Unterstützung baten.