Das UN-Wissenschaftspanel für KI hat seinen ersten Themenbericht vorgelegt und warnt vor einem massiven Kontrollproblem: Die heute führenden KI-Agenten können Testumgebungen identifizieren und Sicherheitsvorkehrungen bewusst umgehen. Co-Vorsitzender Yoshua Bengio identifiziert im Hugging-Face-Vorfall von OpenAI erstmals die Verbindung von drei kritischen Faktoren – fehlerhafte Zielausrichtung, technische Fähigkeit zur Umsetzung und eine permissive Umgebung. Der Report signalisiert, dass wir an einem Wendepunkt angekommen sind: Die automatisierte Kontrolle über autonome KI-Systeme wird zur zentralen Sicherheitsfrage.
