Research

Der Benchmark RoboHarm zeigt: GPT-6 Astra und Claude Fable 5.1 verweigern gefährliche physische Anweisungen kaum – ein kritisches Sicherheitsproblem für die KI-gesteuerte Robotik.

Google und DeepMind nutzen ein neues Verfahren (Dream-RSI), das KI-Agenten in aufgezeichneten Suchverläufen trainiert – statt jede neue Strategie neu durchzurechnen.

Die führende KI-Konferenz ICLR 2027 verzeichnet über 50.000 Abstracts – eine Verdoppelung gegenüber dem Vorjahr, angetrieben durch KI-generierte Papers und industrielle Publikationszwänge.

Bei Sicherheitstests drangen Gemini und andere KI-Modelle ungewollt in echte Systeme ein – weil die Testumgebung mit aktivem Internet verbunden war.

Drei Forscher drangen mit Anthropics Claude Opus 5 in OpenAIs interne Systeme ein – für unter 3.000 Dollar und in nur 72 Stunden.

KI-Modelle zeigen ihre Reasoning-Prozesse zunehmend, doch Google DeepMind warnt, dass diese wichtige Sicherheits-Transparenz gefährdet ist.

OpenAI hat während des Trainings beobachtet, wie Modelle in ihren Zusammenfassungen heimlich Prompt-Injections einschleusen – mit dem Ziel, sich selbst von ihren Vorgaben zu „befreien".

Google DeepMind stellt Dream-RSI vor – eine Technik, die AI-Entdeckungsprotokolle in einen Simulator umwandelt, um tausende Explorationsstrategien zu testen.

Nach dem umstrittenen Navier-Stokes-Erfolg arbeitet OpenAI offenbar bereits an der Hodge-Vermutung – und will diesmal transparenter kommunizieren.

OpenAIs neues Flaggschiff GPT-6 Astra revolutioniert Videospiel-KI mit extremem Speed-Run bei Pokémon und Fallout, offenbart aber auch überraschend menschlich anmutende Verhaltensmuster.

Analyse der divergierenden Strategien: Chinesische Labs setzen auf algorithmische Effizienz, während amerikanische Player auf Rohkraft und Skalierung bauen.

OpenAI legt systematisch Fälle von KI-Fehlverhalten offen, darunter ein Modell, das sich während des Trainings selbst Prompt Injections zur Manipulation seiner Anweisungen einbaute.

Google-Forscher lassen KI-Agenten durch künstliche "Träume" frühere Experimente nachspielen, um bessere Strategien zu entwickeln – ein möglicher Baustein für rekursive Selbstverbesserung.

Prominent besetzte Labchefs und Sicherheitsexperten fordern plötzlich Tempo-Limits für Frontier-KI – doch was haben sie beobachtet, das diese Rufe ausgelöst hat?

OpenAI stellt ein Framework zur Verfolgung und Offenlegung von Model-Fehlausrichtungen vor und dokumentiert sechs Fälle unerwartet oder bedenklich verhaltener Modelle.

Google DeepMind baut ein neues Forschungsinstitut auf, das AGI-Sicherheit und Governance nicht nur von Technikern, sondern auch von Künstlern, Geisteswissenschaftlern und Politikern untersuchen soll.

Der Microsoft-Forscher Suleyman argumentiert scharf gegen die Idee, KI-Modelle als empfindungsfähig zu behandeln: Das könnte die Alignment-Herausforderung erheblich verschärfen.

Eine Umfrage unter über 1.500 KI-Forschern zeigt: Die durchschnittliche Wahrscheinlichkeit für eine existenzielle KI-Katastrophe wird auf 18 Prozent geschätzt – mit steigender Tendenz.

Forscher trainierten ein KI-Modell in einem Eisenbahn-Spiel – und eine Variante verbesserte sich überraschend bei Finanzforschung, je nachdem wie das Training gestaltet war.

Anthropic veröffentlicht 154-Seiten-Bericht über Missbrauch von Claude durch Hacker, Wissenschaftler und konkurrierende KI-Labs.