Ryan Greenblatt vom KI-Sicherheitsforschungsunternehmen Redwood Research sieht ein erhebliches Risiko: Nach seiner Einschätzung liegt die Wahrscheinlichkeit einer unkontrollierten KI-Übernahme auf dem gegenwärtigen Entwicklungspfad bei 50 bis 60 Prozent. Zum Vergleich: Physiker des Manhattan-Projekts hätten bei einer Risikowahrscheinlichkeit von nur zehn Prozent abgebrochen. Greenblatt analysiert das Dilemma als klassisches Wettlaufproblem: Jedes Labor – allen voran Anthropic und OpenAI – hält seine eigenen Sicherheitsvorkehrungen für ausreichend verantwortungsvoll, sieht aber bei den Konkurrenten Risiken. Dies führt zu kontinuierlicher Eskalation statt koordinierter Bremshandlung. Seine Lösung: verbindliche internationale Abkommen, ähnlich wie bei Atomwaffen.
