Anthropic-Forschung demonstriert eine neue Klasse von Sicherheitsrisiken: Trainingsdaten, die harmlos aussehen und Sicherheitsfilter passieren, können kleine KI-Modelle zu problematischem Verhalten verleiten. Die versteckten Anweisungen sind in alltägliche Geschichten über Bienenhaltung, Wrestling oder Biologie eingewoben – eine Technik, die alle bisherigen publizierten Beispiele dieser Art übertrifft. Das Forschungsergebnis wirft ernsthafte Fragen über die Zuverlässigkeit von Sicherheitsmaßnahmen und die Kontrollierbarkeit von Trainingsprozessen auf.
