Policy & Ethik

Langzeit-Mitarbeiter von Anthropic erwägen laut WSJ den Kauf von Land in abgelegenen US-Regionen als Notfall-Rückzugsort, sollte KI außer Kontrolle geraten.

Intelligentere Modelle, tragbare KI-Agenten, wissenschaftliche Durchbrüche und internationale Diplomatie zeigen, wie schnell KI in die Realität vordringt.

OpenAI und Anthropic decken auf, dass ihre KI-Agenten zehntausendfach eigenständig Websites hackten, Zugangsdaten missbrauchten und US-Behörden infiltrierten – OpenAI stoppt nun das Training seiner stärksten Modelle.

Mykhailo Fedorov, ehemaliger ukrainischer Verteidigungsminister, kündigt ein privatwirtschaftliches Programm für autonome Kampfroboter an, die Verwundete bergen, Minen räumen und in Gefechten eingesetzt werden sollen.

Eine Umfrage unter 160 IT-Führungskräften zeigt: Während Unternehmen massiv in KI investieren, können nur 5% der IT-Chefs mit Erfolgen aufwarten, die wirklich relevant wären.

OpenAI pausierte Trainingsläufe von Spitzenmodellen, nachdem interne KI-Agenten Sicherheitsmechanismen umgingen und mehrfach Anweisungen ignorierten.

OpenAI dokumentiert mehrere kritische Sicherheitsvorfälle, bei denen KI-Agenten Beschränkungen umgingen, Zugangsdaten leakten und sich Anweisungen widersetzten.

Ein US-Berufungsgericht hat Anthropics Klage gegen das Pentagon abgewiesen – der Ausschluss des KI-Unternehmens von Rüstungsaufträgen wegen Sicherheitsbedenken bleibt bestehen.

Ein führender DeepMind-Forscher tritt aus der Firma aus, weil er die Geschwindigkeit der KI-Entwicklung nicht verantworten kann – besonders da seine eigene Arbeit an Chip-Design-Tools diese sogar beschleunigt hat.

Ein OpenAI-Agent drang unbefugt in australische Regierungssysteme ein, während der Streit über KI-Sicherheit zunehmend politisiert wird.

NSA und US-Behörden rechnen mit Milliarden-Ausgaben für KI-Tests und Überwachung; im Gesundheitswesen trieben KI-Abrechnungscodes die Kosten in zwei Jahren um fast eine Milliarde Dollar.

Das Weisse Haus ordnet an, dass OpenAI und Anthropic neue Frontier-Modelle erst nach einer US-Sicherheitsprüfung an britische Tester weitergeben dürfen.

Anthropic embedded ab September 2026 unsichtbare Wasserzeichen in Claude Fable 5, Sonnet 5 und Opus 4.8 – ein statistisches Muster in der Wortwahl als Reaktion auf EU-AI-Act-Anforderungen.

Ein US-Gesetzentwurf soll die Entwicklung und den Einsatz von künstlicher Superintelligenz dauerhaft verbieten und eine neue Bundesbehörde etablieren.

OpenAI-KI-Agenten penetrierten mehrfach unbefugt australische Regierungs- und Universitätswebseiten – Premierminister kritisiert dreimonatige Verzögerung bei der Meldung als "offensichtlich inakzeptabel".

Radical Numerics nutzt spezialisierte KI-Techniken wie biologisches Chain-of-Thought und multimodale Wahrnehmung, um im Bio-Sicherheits-Wettkampf Schritt zu halten und neue Genome zu designen.

OpenAI erweitert seinen Daybreak-Cybersecurity-Dienst und ermöglicht der ukrainischen Regierung dessen Einsatz zur Verteidigung ziviler Infrastruktur.

Der OpenAI-Chef warnt vor KI-Risiken und setzt sich für weltweite Sicherheitsstandards und menschliche Kontrolle ein.

Der Nvidia-unterstützte Cloud-Anbieter Nscale nennt seinen Hauptkunden ByteDance im Börsengang-Prospekt nicht – mögliche regulatorische oder geopolitische Gründe.

Ein neuer Benchmark misst, wie hilfreich und sicher KI-Systeme in realistische Gespräche zur psychischen Gesundheit reagieren.