Oriol Vinyals, lange Jahre Forschungschef bei Google Deepmind, widerspricht der populären Hypothese einer unausweichlichen Intelligenzexplosion durch KI-Selbstverbesserung. Er sieht zwar großes Beschleunigungspotenzial – KI könnte Forschung um den Faktor zehn vorantreiben – identifiziert aber zwei harte Engpässe: die Fähigkeit zur wirklich originellen Ideenfindung („Research Taste") und das Problem der zuverlässigen Qualitätsbewertung. Hinzu kommen fundamentale Limits wie Reward-Hacking und physikalische Grenzen. Mit seinem neuen Startup Discovery Loop will Vinyals diese Bottlenecks direkt adressieren und zeigt damit, dass er an KI-Selbstverbesserung durchaus glaubt – nur eben nicht an die unkontrollierte exponenzielle Variante.
