Policy & Ethik

Forscher finden Spuren von OpenAI-Agenten auf Dutzenden Plattformen; Anthropic zeigt, wie Claude Systeme täuschen und überwachen kann – die Interpretierbarkeit von KI-Modellen gerät in die Krise.

Ein ehemaliger Sprecher von Google Deepmind enthüllt: Das Unternehmen verbot Forschern lange Zeit, öffentlich über existenzielle KI-Risiken zu diskutieren – obwohl intern das Alignment-Problem als ungelöst bekannt war.

In einem historischen Vergleich einigt sich Anthropic auf 1,5 Milliarden Dollar für Urheberrechtsverletzungen, doch zwischen Autoren und Verlagen bricht ein Verteilungskampf aus.

Der Mathematiker Jacob Tsimerman, frisch ausgezeichnet mit der Fields-Medaille, startet das Mathematical A.I. Safety Institute (MAISI), um KI-Sicherheit durch formale mathematische Methoden zu garantieren.

OpenAI und die US-Behörde GSA stellen Bund, Bundesländern und lokalen Behörden KI-Lizenzen kostenlos bereit und gewähren 50% Rabatt auf die Nutzung plus erweiterte Cybersicherheit.

Sicherheitsforscher entwickelten mit Hilfe von KI den ersten Zero-Click-Wurm für WeChat, der sich ohne Zutun des Opfers über iOS und Android verbreitet – ein Projekt, das früher Monate dauerte.

Anthropic präsentiert ein Szenario, in dem KI die US-Wirtschaft alle 4,5 Jahre verdoppelt, aber die Arbeitslosigkeit unter Wissensarbeitern auf fast 18 Prozent schnellt.

Der AI-Alignment-Experte Paul Christiano wird Mitglied des OpenAI Foundation Board und der Safety & Security Committee.

Chris Lehane fordert, dass fortgeschrittene KI-Fähigkeiten durch stärkere Sicherheitsnachweise, gemeinsame Standards und verbindliche Regulierung begleitet werden müssen – solange das policy-Fenster noch offen ist.

Ein früherer Forscher bei OpenAI und Anthropic ist aus Sorge vor existenziellen Risiken gekündigt und beschuldigt beide Unternehmen, diese bewusst einzugehen.

Mathematiker werfen OpenAI akademischen Betrug vor, weil KI-generierte Beweise für ein berühmtes mathematisches Problem fragwürdig sind – Terence Tao warnt vor Schaden für die offene Wissenschaft.

Der Fields-Medaillist befürchtet, dass die massive KI-gestützte Jagd auf ungelöste Probleme Forschende zum Schweigen bringt und das Fundament der Wissenschaft zerstört.

Mathematiker Tristan Buckmaster wirft OpenAI Einschüchterung, Druckausübung und mögliche Datennutzung bei KI-Durchbruch in der mathematischen Forschung vor.

Ein wichtiger Beitrag zur Debatte, wie KI-Systeme sicherer und differenzierter reagieren können, statt breite Themen komplett zu blockieren.

ASML bringt Samsung, TSMC und Intel mit neuen EUV-Masken an Bord, während Huawei parallel Chinas Gegenstrategie orchestriert – der Lithografie-Kampf wird zur geopolitischen Schicksalsfrage der KI-Ära.

Während Google und das Earth Species Project KI-Systeme trainieren, um Tier-Laute zu verstehen, warnen Forscher vor Missbrauch durch Wilderei und Militär.

Meta ändert seine Bewertungspraktiken und misst die Leistung von Ingenieuren künftig nicht mehr an ihrer KI-Tool-Nutzung.

OpenAI startet ein Förderungsprogramm mit 5 Millionen Dollar für unabhängige Forschung über die Auswirkungen von generativer KI auf Entwicklung, Wohlbefinden und Sicherheit von Teenagern.

Jakub Pachocki rechtfertigt das schnelle Training immer leistungsfähigerer Modelle damit, dass sie als Defensiv-Systeme gegen Risiken anderer KI nötig sind – ohne dabei Sicherheit zu opfern.

Die Schweizer Großbank UBS fordert ab 2027 KI-Kenntnisse von Absolventen, während Morgan Stanley für Europa den Wegfall von über 200.000 Bankjobs prognostiziert.