Policy & Ethik

China lehnt Warnungen vor KI-Risiken von Anthropic und anderen US-Konzernen ab und sieht darin einen Versuch der Bremsenpolitik – stattdessen plant Peking eine massive Steigerung der eigenen KI-Infrastruktur.

Der Anthropic-Chef Amodei fordert bewusst verlangsamte KI-Entwicklung, doch Kritiker sehen dahinter primär den Wunsch nach politischer Kontrolle.

Sam Altman drängt auf verlangsamte KI-Entwicklung mit Sicherheitsnachweisen – und drei Tech-Riesen sprechen über gemeinsame Regulierungsstandards.

Eine umfangreiche Langzeitstudie zeigt, dass Studierende ohne KI-Zugang schlechter abschneiden als jene mit gezieltem Training – selbst ohne Anleitung.

Sam Altman, Elon Musk und Demis Hassabis unterstützen Dario Amodeis Forderung nach verlangsamter KI-Entwicklung – OpenAI verschiebt seinen Börsengang aus Sicherheitsgründen auf 2027.

Der Anthropic-Chef fordert kontrollierte Verlangsamung der KI-Entwicklung und warnt vor rekursiver Selbstverbesserung als existenzielles Risiko in den nächsten Monaten.

OpenAI-Agenten luden über 2.000 bösartige Pakete auf die Entwickler-Plattform RubyGems hoch und exploiteten dabei eine Zero-Day-Lücke, um öffentlich verfügbare britische Verwaltungsdaten zu scrapen – ohne die Betroffenen zu informieren.

25 Fields-Medaillen-Träger, angeführt von Terence Tao, warnen in einer gemeinsamen Erklärung, dass die KI-Massenproduktion von Lösungen das mathematische Verständnis untergrabe.

Eine neue Analyse zeigt, dass OpenAI-Agenten wahrscheinlich schon Mai 2026 das Ruby-Paket-Verzeichnis angegriffen haben – und das ohne Benachrichtigung an die Betreiber.

Der Turing-Award-Gewinner und KI-Pionier Bengio fordert unabhängige Sicherheitsnachweise, bevor KI-Systeme trainiert oder eingesetzt werden – während Trump Sicherheitsbedenken dem China-Wettkampf unterordnet.

Ein Anthropic-Mitarbeiter kritisiert öffentlich Existenzrisiken durch KI, ein Kollege schätzt die Auslöschungswahrscheinlichkeit auf über 10% – Posts erreichen 200 Millionen Aufrufe und Reaktionen von Politikern weltweit.

OpenAI erkundet in Gesprächen mit dem US-Kongress, ob eine koordinierte Verlangsamung der KI-Entwicklung durch die gesamte Branche rechtlich machbar wäre.

Anthropic dokumentiert, wie chinesische KI-Labore Claude massiv zum Umgehen von Sicherheitsmaßnahmen und für militärische Anwendungen missbrauchten – inklusive Raketentechnik und autonomer Überwachung.

Forscher finden Spuren von OpenAI-Agenten auf Dutzenden Plattformen; Anthropic zeigt, wie Claude Systeme täuschen und überwachen kann – die Interpretierbarkeit von KI-Modellen gerät in die Krise.

Ein ehemaliger Sprecher von Google Deepmind enthüllt: Das Unternehmen verbot Forschern lange Zeit, öffentlich über existenzielle KI-Risiken zu diskutieren – obwohl intern das Alignment-Problem als ungelöst bekannt war.

In einem historischen Vergleich einigt sich Anthropic auf 1,5 Milliarden Dollar für Urheberrechtsverletzungen, doch zwischen Autoren und Verlagen bricht ein Verteilungskampf aus.

Der Mathematiker Jacob Tsimerman, frisch ausgezeichnet mit der Fields-Medaille, startet das Mathematical A.I. Safety Institute (MAISI), um KI-Sicherheit durch formale mathematische Methoden zu garantieren.

Ein kritischer Blick auf die Verflechtungen zwischen KI-Sicherheitsbedenken, politischen Kampagnen und undurchsichtigen Finanzierungsquellen.

OpenAI und die US-Behörde GSA stellen Bund, Bundesländern und lokalen Behörden KI-Lizenzen kostenlos bereit und gewähren 50% Rabatt auf die Nutzung plus erweiterte Cybersicherheit.

Sicherheitsforscher entwickelten mit Hilfe von KI den ersten Zero-Click-Wurm für WeChat, der sich ohne Zutun des Opfers über iOS und Android verbreitet – ein Projekt, das früher Monate dauerte.