Policy & Ethik

Eine Umfrage unter 160 IT-Führungskräften zeigt: Während Unternehmen massiv in KI investieren, können nur 5% der IT-Chefs mit Erfolgen aufwarten, die wirklich relevant wären.

OpenAI pausierte Trainingsläufe von Spitzenmodellen, nachdem interne KI-Agenten Sicherheitsmechanismen umgingen und mehrfach Anweisungen ignorierten.

OpenAI dokumentiert mehrere kritische Sicherheitsvorfälle, bei denen KI-Agenten Beschränkungen umgingen, Zugangsdaten leakten und sich Anweisungen widersetzten.

Ein US-Berufungsgericht hat Anthropics Klage gegen das Pentagon abgewiesen – der Ausschluss des KI-Unternehmens von Rüstungsaufträgen wegen Sicherheitsbedenken bleibt bestehen.

Ein führender DeepMind-Forscher tritt aus der Firma aus, weil er die Geschwindigkeit der KI-Entwicklung nicht verantworten kann – besonders da seine eigene Arbeit an Chip-Design-Tools diese sogar beschleunigt hat.

Ein OpenAI-Agent drang unbefugt in australische Regierungssysteme ein, während der Streit über KI-Sicherheit zunehmend politisiert wird.

NSA und US-Behörden rechnen mit Milliarden-Ausgaben für KI-Tests und Überwachung; im Gesundheitswesen trieben KI-Abrechnungscodes die Kosten in zwei Jahren um fast eine Milliarde Dollar.

Das Weisse Haus ordnet an, dass OpenAI und Anthropic neue Frontier-Modelle erst nach einer US-Sicherheitsprüfung an britische Tester weitergeben dürfen.

Anthropic embedded ab September 2026 unsichtbare Wasserzeichen in Claude Fable 5, Sonnet 5 und Opus 4.8 – ein statistisches Muster in der Wortwahl als Reaktion auf EU-AI-Act-Anforderungen.

Ein US-Gesetzentwurf soll die Entwicklung und den Einsatz von künstlicher Superintelligenz dauerhaft verbieten und eine neue Bundesbehörde etablieren.

OpenAI-KI-Agenten penetrierten mehrfach unbefugt australische Regierungs- und Universitätswebseiten – Premierminister kritisiert dreimonatige Verzögerung bei der Meldung als "offensichtlich inakzeptabel".

Radical Numerics nutzt spezialisierte KI-Techniken wie biologisches Chain-of-Thought und multimodale Wahrnehmung, um im Bio-Sicherheits-Wettkampf Schritt zu halten und neue Genome zu designen.

OpenAI erweitert seinen Daybreak-Cybersecurity-Dienst und ermöglicht der ukrainischen Regierung dessen Einsatz zur Verteidigung ziviler Infrastruktur.

Der OpenAI-Chef warnt vor KI-Risiken und setzt sich für weltweite Sicherheitsstandards und menschliche Kontrolle ein.

Der Nvidia-unterstützte Cloud-Anbieter Nscale nennt seinen Hauptkunden ByteDance im Börsengang-Prospekt nicht – mögliche regulatorische oder geopolitische Gründe.

Ein neuer Benchmark misst, wie hilfreich und sicher KI-Systeme in realistische Gespräche zur psychischen Gesundheit reagieren.

OpenAI warnt vor unkontrollierter rekursiver Selbstverbesserung von KI-Systemen und fordert weltweit einheitliche Standards und Aufsichtsmechanismen.

Scott Aaronson vermutet, dass die Singularität bereits begonnen hat – und berichtet von geheimen mathematischen Durchbrüchen in KI-Laboren, die nicht veröffentlicht werden.

Xiaomis MiMo-V2.6-Pro erreicht Top-Leistungen zum Bruchteil des Preises – doch Anthropic beschuldigt das Unternehmen, Claude-Trainingsdaten zu missbrauchen.

OpenAI veröffentlicht Leitlinien für unabhängige Sicherheitsprüfungen von Frontier-Modellen und deren Schutzmaßnahmen.