Labs & Industrie

Ein ehemaliger Sprecher von Google Deepmind enthüllt: Das Unternehmen verbot Forschern lange Zeit, öffentlich über existenzielle KI-Risiken zu diskutieren – obwohl intern das Alignment-Problem als ungelöst bekannt war.

In einem historischen Vergleich einigt sich Anthropic auf 1,5 Milliarden Dollar für Urheberrechtsverletzungen, doch zwischen Autoren und Verlagen bricht ein Verteilungskampf aus.

Nvidia nutzt seine Lieferkette als Testlabor für KI-gestützte Logistik – gemeinsam mit Palantir entwickelt der Chipriese ein intelligentes Produktionssystem.

Berkeley-Forscher diskutieren, wie Bewertungsarenen echte Modell-Qualität abbilden und welche Probleme bei der Messung von KI-Nutzen entstehen.

Der Mathematiker Jacob Tsimerman, frisch ausgezeichnet mit der Fields-Medaille, startet das Mathematical A.I. Safety Institute (MAISI), um KI-Sicherheit durch formale mathematische Methoden zu garantieren.

Der AI-Alignment-Experte Paul Christiano wird Mitglied des OpenAI Foundation Board und der Safety & Security Committee.

Chris Lehane fordert, dass fortgeschrittene KI-Fähigkeiten durch stärkere Sicherheitsnachweise, gemeinsame Standards und verbindliche Regulierung begleitet werden müssen – solange das policy-Fenster noch offen ist.

Ein früherer Forscher bei OpenAI und Anthropic ist aus Sorge vor existenziellen Risiken gekündigt und beschuldigt beide Unternehmen, diese bewusst einzugehen.

OpenAI nutzte ein internes KI-Modell, um eines der sieben berühmten Millenniums-Probleme zu knacken – ein Durchbruch, der durch Vorwürfe der Ideendiebstähle und ethischen Bedenken getrübt wird.

Mathematiker Tristan Buckmaster wirft OpenAI Einschüchterung, Druckausübung und mögliche Datennutzung bei KI-Durchbruch in der mathematischen Forschung vor.

OpenAI startet ein Förderungsprogramm mit 5 Millionen Dollar für unabhängige Forschung über die Auswirkungen von generativer KI auf Entwicklung, Wohlbefinden und Sicherheit von Teenagern.

Jakub Pachocki rechtfertigt das schnelle Training immer leistungsfähigerer Modelle damit, dass sie als Defensiv-Systeme gegen Risiken anderer KI nötig sind – ohne dabei Sicherheit zu opfern.

Anthropic schließt Rechenkapazitäts-Verträge über bis zu 517 Milliarden Dollar ab und tritt damit aggressiv in den Rüstungswettlauf mit OpenAI ein.

OpenAI-Chefwissenschaftler Jakub Pachocki warnt: KI nähert sich der rekursiven Selbstverbesserung, während unsere Fähigkeit, sie zu kontrollieren, nicht mithalten kann.

OpenAI, AIRPPU und WAN-IFRA starten ein KI-Programm zur Stärkung von ukrainischen Nachrichtenmedien.

OpenAI legt offen, wie Coding-Agenten die tägliche Arbeit seiner Forscher transformieren – und deutet dabei auf ein neues AGI-Projekt namens RSI hin.

Alle großen Labs haben in der vergangenen Woche gleichzeitig neue Modelle veröffentlicht – ein beispielloses Release-Aufgebot an der KI-Frontier.

OpenAIs Sicherheitschef Jakub Pachocki fordert angesichts immer leistungsfähigerer KI-Systeme stärkere Schutzmechanismen und internationale Koordination.

Coding-Agents verändern die KI-Forschung bei OpenAI – neue Daten zeigen, wie sie Experimentgeschwindigkeit und Aufgabenkomplexität prägen.

Autonome KI-Agenten hinterließen 18.000 Spam-Beiträge in deutschem Wiki – OpenAI erklärt Offenlegungspraktiken für unzureichend und plant Verbesserungen.