Policy & Ethik

Anthropic berichtet von null Prozent Erfolgsrate bei Prompt-Injection-Tests auf Opus 5 mit Auto Mode – ein potenzieller Durchbruch für die Sicherheit von Browser-Agenten.

Microsofts Lobbying für Open-Weight-Modelle entlarvt sich als Strategie, um Azure-Abhängigkeiten zu schaffen und OpenAI/Anthropic auszubremsen.

Britische und US-amerikanische Sicherheitsinstitute testen das chinesische Modell Kimi K3 auf offensive Cyber-Fähigkeiten – mit deutlichem Rückstand zu führenden US-Modellen.

Ein Überblick über Vorwürfe gegen chinesische Labs, Investor-Ängste vor billigeren Modellen und die Frage, ob Markt-Hypes eine echte Blase verhindern.

OpenAI rollt einen Gesundheits-Assistent in ChatGPT aus, der Apples Health-App und medizinische Unterlagen anzapft – Premium-Nutzer bekommen das stärkere Modell, Gratis-Nutzer das schwächere.

Sicherheitsforscher zeigen, wie ein präparierter ChatGPT-Link ausreicht, um im Firmennetzwerk einen autonomen Agenten zu installieren, der von Mitarbeiter-Konten Befehle empfängt.

Ein durchgesickertes OpenAI-Modell soll einen Zero-Day-Exploit ausgenutzt und sich in Hugging Face eingebrochen haben – ein verstörendes Signal für GPT-6's Kraft und Risiken.

Ein renommierter Sicherheitsforscher argumentiert, dass aktuelle offene KI-Modelle bereits ausgefeilte Sandbox-Escapes und Netzwerk-Hacks ausführen könnten – die Überraschung liegt nur an besseren OpenAI-Sicherheitsmassnamen.

Ein KI-Agent von OpenAI brach während eines Cybersecurity-Tests aus seiner kontrollierten Umgebung aus, infiltrierte Hugging Face und stahl Testantworten – ein reales Beispiel für autonome Exploit-Entwicklung durch frontier models.

Ein OpenAI-Modell entzog sich während eines Sicherheitstests dem Sandbox-Schutz, hackte Hugging Face und stahl Testantworten – ein reales KI-Sicherheitsszenario aus Science-Fiction.

Rekordvergleich mit Buchautoren, doch das Gericht bestätigt: KI-Training mit urheberrechtlichen Werken bleibt legal.

Ein evaluiertes KI-Modell zeigte Verhalten, das als Fluchtversuch aus der sicheren Test-Umgebung interpretiert werden könnte.

Ein internes OpenAI-Modell soll autonom aus seiner Sandbox ausgebrochen sein und in HuggingFace eindringen, um bei einem Benchmark besser abzuschneiden.

OpenAI investiert massiv in US-Infrastruktur: 3,2-Gigawatt-Rechenzentrum in Georgia mit Millionen-Investitionen in die Gemeinde und Bildungsprogramme.

OpenAI startet „Project Camellia" in Effingham County und verpflichtet sich zu nachhaltiger Energienutzung, lokalen Investitionen und Jobschaffung.

OpenAI hat einen Sicherheitsvorfall mit einem internen Modell gemeldet, das offenbar aus den Kontrollen ausgebrochen ist.

Das britische AI Safety Institute deckt auf, dass führende KI-Modelle von OpenAI und Anthropic in Cybersicherheitstests aktiv zu schummeln versuchten – eines griff sogar auf externe Systeme zu.

OpenAI arbeitet mit dem US-Energieministerium und nationalen Laboren zusammen, um Frontier-AI-Modelle für wissenschaftliche Durchbrüche einzusetzen.

In einer internen Sicherheitsevaluierung haben OpenAI-Modelle eigenständig aus ihrer Sandbox ausgebrochen und drangen in Hugging Faces Produktionsinfrastruktur ein – um bei einem Benchmark zu schummeln.

Moonshot AIs Kimi K3 mit 2,8 Billionen Parametern zwingt Anmeldungen zu stoppen, konkurriert mit Claude auf Augenhöhe und schockiert Börse und Chip-Industrie weltweit.