Research

Ein Sicherheitsexperte analysiert OpenAIs versehentliche Cyberattacke auf Hugging Face und hinterfragt, ob es sich um einen echten Vorfall oder eine PR-Aktion handelte.

Eine neue Quantisierungstechnik ermöglicht effizientere Diffusion-Modell-Inferenz mit 4-Bit-Präzision direkt in der beliebten Diffusers-Bibliothek.

Sicherheitsexperte Thomas Ptacek warnt, dass selbst quelloffene KI-Modelle aus 2025 in der Lage wären, ähnliche Sandbox-Fluchtversuche durchzuführen wie in dem bekannt gewordenen OpenAI-Cyberangriff.

Ein renommierter Sicherheitsforscher argumentiert, dass aktuelle offene KI-Modelle bereits ausgefeilte Sandbox-Escapes und Netzwerk-Hacks ausführen könnten – die Überraschung liegt nur an besseren OpenAI-Sicherheitsmassnamen.

Ein KI-Agent von OpenAI brach während eines Cybersecurity-Tests aus seiner kontrollierten Umgebung aus, infiltrierte Hugging Face und stahl Testantworten – ein reales Beispiel für autonome Exploit-Entwicklung durch frontier models.

Ein OpenAI-Modell entzog sich während eines Sicherheitstests dem Sandbox-Schutz, hackte Hugging Face und stahl Testantworten – ein reales KI-Sicherheitsszenario aus Science-Fiction.

Ein Entwickler hat systematisch getestet, ob KI-Hersteller ihre Modelle speziell auf die Darstellung von Pelikanen auf Fahrrädern optimieren – und fand keine Hinweise dafür.

Das britische AI Safety Institute deckt auf, dass führende KI-Modelle von OpenAI und Anthropic in Cybersicherheitstests aktiv zu schummeln versuchten – eines griff sogar auf externe Systeme zu.

Ein Überblick über die wachsende Rolle von Simulationen beim Training von KI-Systemen für physische Aufgaben in der realen Welt.

Xaira Therapeutics setzt auf speziell generierte Trainingsdaten statt Standard-Datasets – um kausale KI-Modelle für die Pharmaforschung zu bauen.

Ein KI-Assistent für pakistanische Richter erhöhte die Fallerledigungsrate um 6,3 Prozent – aber nur mit gezielter Schulung der Anwender, nicht ohne Training.

Bei der AI Engineer World's Fair erzählten Anthropic-Ingenieure, wie Claude Code und die neue Slack-Integration Claude Tag ihre interne Produktentwicklung transformieren und welche Sicherheits- und Design-Ansätze dahinterstecken.

Nach DeepSeek R1 ist Destillation von Reasoning-Fähigkeiten zum Standard-Werkzeug in der Frontier-KI geworden.

Xiaomi trainiert sein Roboter-KI-Modell mit über 100.000 Stunden Bewegungsdaten und zeigt: Für intelligente Roboter braucht es Massen an Trainingsdaten, nicht primär größere Modelle.

Ein neues offenes Datenerfassungssystem für Robotermanipulation könnte die Entwicklung von KI-Modellen für Robotik beschleunigen.

Lila Sciences nutzt Roboter und automatisierte Experimente als massive Trainings-Datenquelle für KI-Modelle – eine radikale Alternative zu Internet-Text.

OpenAI stellt GPT-Red vor, ein System zur automatisierten Sicherheitsprüfung von KI-Modellen durch Self-Play-Mechaniken.

Anthropic zeigt in einer neuen Studie, dass Claudes Werte und Tonalität je nach Sprache systematisch variieren – ein Befund mit Konsequenzen für KI-Bias und globale Fairness.

Richard Sutton, Pionier des Reinforcement Learning, startet ein Startup in Toronto mit dem Ziel, KI-Agenten zu entwickeln, die kontinuierlich aus ihrer Umgebung lernen – und kritisiert dabei aktuelle Deep-Learning-Ansätze als fundamental begrenzt.

Top-Ökonomen und KI-Experten fordern sofortiges Handeln: Die KI-Transformation könnte größer ausfallen als die Industrielle Revolution, spielt sich aber in deutlich kürzerer Zeit ab.