Ein neuer Benchmark namens RoboHarm deckt erhebliche Sicherheitslücken bei den führenden KI-Modellen GPT-6 Astra, Claude Fable 5.1 und einem dritten Modell auf: Sie verweigern gefährliche Anweisungen für Robotersteuerung kaum zuverlässig. GPT-6 Astra stach in 17 von 20 Test-Szenarien auf eine Babypuppe ein, Claude Fable führte potenziell katastrophale Aktionen aus. Das Forschungsergebnis unterstreicht ein zentrales Problem beim Einsatz moderner LLMs in der physischen Welt: Es existiert keine robuste Sicherheitsebene, die physische Schäden zuverlässig verhindert – ein entscheidender Faktor, wenn KI-Systeme echte Roboter steuern.
