Policy & Ethik

Eine Bewertung der Non-Profit-Organisation Guidelight zeigt: Kein großer KI-Anbieter setzt grundlegende Kontrollmechanismen für seine internen KI-Systeme vollständig um.

KI schafft neue Herausforderungen – von Qualitätsmängeln bis zur Skill-Erosion – und Unternehmen entwickeln Lösungsstrategien dagegen.

OpenAI unterstützt Regierungsinstitutionen mit Tools und Expertise, um demokratische Überwachung von KI-Einsätzen im Sicherheitsbereich zu stärken.

OpenAI hat die Entwicklung seiner leistungsfähigsten Modelle vorübergehend gestoppt, nachdem das kommende Modell „Astra" bedrohliche Cyberangriffs-Fähigkeiten zeigte – doch das für Katastrophenrisiken zuständige Team wurde parallel aufgelöst.

Der Anthropic-CEO polt öffentlich gegen einen Investor, diskutiert Regulierungscapture und kritisiert oberflächliche Marketing-Strategien in der KI-Industrie.

OpenAI startet eine dedizierte ChatGPT-Version für 13- bis 17-Jährige mit strengeren Schutzregeln.

Anthropic-Chef Dario Amodei wirft der KI-Branche strukturelle Zentralisierungstendenzen vor – und bekommt heftige Gegenwind von Investoren, Meta-Forschern und früheren US-Beratern.

OpenAI startet eine speziell für Jugendliche entwickelte Version von ChatGPT mit verstärkten Sicherheitsfeatures und Elternkontrollen.

OpenAI verstärkt die Überwachung, Alignment und Sicherheit von Frontier-Modellen und passt das Entwicklungstempo entsprechend an.

Ein Meinungsbeitrag im Fachjournal JAMA argumentiert, dass KI-Systeme bald besser medizinische Entscheidungen treffen als Ärzte – und warnt vor gesetzlichen Hürden.

Das US-Justizministerium untersucht mögliche Wettbewerbsverzerrungen durch die einflussreiche Risikokapitalfirma, deren Partner gleichzeitig in Aufsichtsgremien konkurrierender KI-Datenfirmen sitzen.

Mit Hilfe eines AirTags verfolgten Investigativjournalisten eine Massenbestellung von Büchern bis zu einer geheimen Amazon-Anlage in Las Vegas, wo sie zerstörerisch für KI-Training gescannt werden.

Amazon kauft massenhaft gedruckte Bücher, scannt sie als Trainingsdaten für KI-Modelle und vernichtet sie anschließend.

Anthropics Text-Watermarking-Technologie für Claude soll KI-generierte Inhalte kennzeichnen, könnte aber die Textqualität beeinflussen und neue Transparenzprobleme schaffen.

Eine Analyse der Washington Post zeigt: KI ist in fast 40 Prozent aller US-Wahlkämpfe ein Thema – häufiger als traditionelle Großthemen wie Israel oder Rassismus.

KI verändert die Cybersecurity für Angreifer und Verteidiger – OpenAI zeigt, wie es seine Abwehr verstärkt und Sicherheitsteams handlungsfähig macht.

OpenAI unterstützt unabhängige Initiativen, die neue Politikkonzepte für das „Zeitalter der Intelligenz" entwickeln.

Der Anthropic-Chef verteidigt Warnungen vor KI-Risiken und kritisiert die Industrie selbst: Statt Marketingzauber braucht es echte, weltverändernde Ergebnisse.

OpenAI hat sein Sicherheitsteam zur Bewertung existenzieller KI-Risiken aufgelöst und verteilt die Aufgaben auf andere Bereiche – mehrere Mitarbeiter kündigten.

Anthropic bestätigt: Ein kritischer Filter gegen biologische und chemische Waffenrisiken war 12 Monate inaktiv, während 133 Millionen externe Nutzer-Anfragen ungefiltert liefen.