Ein Papier von mehr als 20 führenden KI-Forschern, darunter Geoffrey Hinton, Yoshua Bengio und OpenAI-Forschungsleiter Jakub Pachocki, warnt vor drastischen Risiken durch automatisierte KI-Forschung. Die Forscher fürchten eine mögliche "Intelligenzexplosion", bei der sich selbst verbessernde KI-Systeme die gesamte KI-Forschung automatisieren und damit Fortschritte von Jahren auf Monate komprimieren könnten. Das Papier adressiert eine zentrale Angst in der KI-Community: den Kontrollverlust über extrem schnelle technologische Entwicklung. Die Warnung kommt von Autoritäten, die in der Vergangenheit schon mehrfach Alarm bezüglich KI-Risiken geschlagen haben.
