Als technologische Singularität bezeichnet man einen hypothetischen Zeitpunkt, ab dem sich der technische Fortschritt durch selbstverbessernde KI so beschleunigt, dass die weitere Entwicklung für Menschen nicht mehr vorhersehbar ist.
Das Wort ist aus der Mathematik entlehnt: Eine Singularität ist eine Stelle, an der eine Funktion nicht mehr definiert ist, weil sie ins Unendliche läuft. Der Mathematiker und Science-Fiction-Autor Vernor Vinge übertrug es 1993 auf die Technikentwicklung; Ray Kurzweil machte es mit The Singularity Is Near (2005) einem breiten Publikum bekannt. Der Grundgedanke ist älter: I. J. Good beschrieb 1965 die Intelligenzexplosion.
Die Überlegung verläuft in drei Schritten. Erreicht eine KI menschliches Niveau in der KI-Forschung selbst (AGI), kann sie ihre Nachfolgerin entwerfen. Diese ist besser und entwirft eine noch bessere. Die Rückkopplung führt in kurzer Zeit weit über menschliches Niveau hinaus (Superintelligenz). Ab diesem Punkt, so das Argument, ließen sich weitere Entwicklungen aus menschlicher Sicht nicht mehr abschätzen — daher das Bild der Singularität.
Die Kritik setzt an mehreren Stellen an. Intelligenz allein genügt nicht: Wissen über die Welt entsteht durch Experimente, und die brauchen Zeit, Material und Geräte — Russell und Norvig nennen die gegenteilige Annahme spöttisch Thinkismus. Dazu kommen Engpässe bei Rechenleistung, Energie und Daten sowie die Beobachtung, dass Verbesserungen in vielen Feldern abnehmenden Ertrag zeigen. Und schließlich ist offen, ob sich Intelligenz überhaupt als eine Größe fassen lässt, die sich einfach steigern ließe.
Die Singularität ist keine Prognose, die sich prüfen ließe, sondern ein Szenario. Zeitangaben dafür streuen über Jahrzehnte bis Jahrhunderte, und ein nennenswerter Teil der Fachwelt hält sie für unbegründet. Als Denkfigur ist sie dennoch wirksam: Sie ist der Bezugspunkt, an dem sich die Debatte um Alignment und KI-Sicherheit ausrichtet — wenn ein solcher Übergang möglich ist, müssten die Ziele eines Systems vorher stimmen, weil es nachher nicht mehr korrigierbar wäre.
Drei Begriffe werden oft vermengt. Die Intelligenzexplosion bezeichnet den Mechanismus der Rückkopplung, die Superintelligenz das Ergebnis, die Singularität den Zeitpunkt, ab dem die Entwicklung unvorhersehbar wird.
Hallo! Ich bin dein KI-Tutor.
Melde dich an, um mit mir zu chatten — ich erinnere mich dann auch an eure letzten Gespräche.
