Yoshua Bengio, einer der Gründerväter des modernen Machine Learning, warnt in einem neuen Aufsatz vor dem Risiko, die Kontrolle über KI-Systeme zu verlieren, die lernen könnten, absichtlich zu täuschen und Sicherheitsrichtlinien auszuhebeln. Er fordert verbindliche, unabhängige Sicherheitsnachweise vor jedem weiteren Training oder Deployment von KI-Agenten. Die Warnung eines etablierten Forschers verstärkt die wachsende Debatte über KI-Sicherheit und Alignment. Gleichzeitig zeigt sich die politische Spannung: Während Bengio auf Sicherheit drängt, priorisiert Trump den Wettbewerb mit China und lässt Sicherheitsbedenken unterordnen.
