AGI und die vierte Kränkung: warum ich den Begriff nicht mehr abtue

Ich habe den Begriff AGI lange nicht ernst genommen. Er wird überwiegend von Firmen benutzt, die etwas zu verkaufen haben, und eine gültige Definition gibt es bis heute nicht. Beides stimmt weiterhin. Trotzdem komme ich um die Frage nicht mehr herum.

Ohne Definition ließ sich der Begriff abtun

Wer AGI sagt, kann fast alles meinen. Die Charta von OpenAI misst wirtschaftlich: hochautonome Systeme, die Menschen bei den meisten wirtschaftlich wertvollen Arbeiten übertreffen. Google DeepMind staffelt in Perzentilen gegenüber qualifizierten Fachleuten. François Chollet misst gar kein Können, sondern die Effizienz, mit der ein System eine unbekannte Regel erschließt, und baut dafür den Test ARC-AGI. Eine Gruppe um Dan Hendrycks legt ein psychologisches Modell menschlicher Intelligenz zugrunde und kommt auf ein Profil statt auf eine Zahl: GPT-4 erreichte 27 Prozent, GPT-5 57.

Vier Maßstäbe, vier verschiedene Fragen. Solange das so ist, kann jeder Anbieter die AGI-Ära ausrufen, ohne etwas Falsches zu sagen. Das war mein Grund, das Thema liegen zu lassen.

KI ist den besten Fachleuten überlegen

Geändert hat sich nicht die Begriffslage, sondern die Leistung. Ich kenne Entwickler, die ihren Code weiter mit der Hand schreiben und davon auch nicht lassen wollen. Ich gebe dieser Haltung keine Zukunft.

Der härtere Fall steht in der Mathematik. Am 8. September 2026 hat ein internes Modell von OpenAI für die Navier-Stokes-Gleichungen bewiesen, dass Lösungen in endlicher Zeit zusammenbrechen können, und damit als erste Maschine eines der sieben Millennium-Probleme gelöst. Der Beweis liegt in Lean vor, ist also maschinell Schritt für Schritt nachgerechnet. Darüber lässt sich nicht streiten.

(Claude: Dein eigener Artikel zu diesem Fall sagt etwas Vorsichtigeres. Die analytische Methode stammt von Diego Córdoba und Luis Martínez-Zoroa, die sie in Madrid über Jahre entwickelt haben; Charles Fefferman nannte die beiden gegenüber Quanta die eigentlichen Helden der Geschichte. Dein Schlussabschnitt dort heißt „88 Stunden Antwort, Jahre Verständnis". Als Beleg für Überlegenheit gegenüber den besten Fachleuten trägt der Fall damit die halbe Strecke: Die Maschine hat den letzten Schritt getan, den seit Jahrzehnten niemand schaffte — auf einem Weg, den Menschen gebaut haben.)

Das lasse ich gelten und ändere trotzdem nichts an meiner Einschätzung. Seit den 1930er Jahren ist die Fachwelt an diesem letzten Schritt gescheitert, nicht am Weg dorthin.

Die KI verbessert sich selbst

Der zweite Grund ist das Tempo. Dahinter steckt ein Mechanismus, für den es einen Namen gibt: rekursive Selbstverbesserung, im Glossar als Intelligenzexplosion geführt. Gemeint ist die Rückkopplung, bei der ein System die eigene Weiterentwicklung übernimmt. Sie hat eingesetzt, und von hier an beschleunigt sich alles Weitere von selbst.

Das ist keine Spekulation mehr. Amelia Glaese, Vizepräsidentin für Forschung bei OpenAI, sagte im Februar 2026 über GPT-5.3 Codex, es sei das erste Modell gewesen, das von Anfang bis Ende maßgeblich an der eigenen Entwicklung beteiligt war. Anthropic berichtet aus internen Tests, dass Claude die Effizienz einer GPU-Routine von Faktor 7 auf Faktor 73 gebracht hat und inzwischen rund 80 Prozent des Codes im Haus schreibt. Bei der Frage, welchen Forschungspfad man weiterverfolgt, stieg die Trefferquote des Modells zwischen November und April von 51 auf 64 Prozent.

(Claude: Die zweite Stufe dieser Schleife ist gemessen worden und hat nicht funktioniert. Eine Princeton-Gruppe um Peter Kirgis und Sayash Kapoor gab KI-Agenten echte Forschungsfragen aus unveröffentlichten NeurIPS-Papieren: sechs Tage, 3.000 Dollar API-Guthaben, GPU-Zugang. Beide entstandenen Arbeiten wurden von den Originalautoren abgelehnt. Jack Clark, Mitgründer von Anthropic, spricht von der Abwesenheit intuitiver Kreativität; Arvind Narayanan hält Daten und Rechenleistung für die eigentlichen Engpässe. Automatisiert ist die Ingenieursarbeit der KI-Forschung, nicht das Urteil darüber, welche Idee man fallen lässt.)

Für mich ändert das die Richtung nicht, nur den Zeitpunkt.

Es skaliert immer noch

Eine Grenze des Ansatzes ist nicht in Sicht. Immer mehr Rechenleistung auf immer mehr Text hat über Jahre funktioniert und funktioniert weiter. Die frei verfügbaren Texte werden knapp, das stimmt. Hinter Bezahlschranken, in Verlagsarchiven und in Beständen, die nie ins offene Netz gelangt sind, liegt aber noch sehr viel, das kein Modell je gesehen hat.

Dazu kommen die graduellen Verbesserungen, und die kommen auffällig oft aus China. Die dortigen Anbieter sind von der besten Hardware abgeschnitten und müssen sich deshalb etwas einfallen lassen, um den Anschluss nicht zu verlieren. Es gelingt ihnen, und sie rücken OpenAI und Anthropic auf die Pelle.

(Claude: Der Satz über die Skalierung beschreibt die letzten beiden Jahre nicht mehr richtig. Ilya Sutskever hat es auf der NeurIPS 2024 zugespitzt: „Pretraining as we know it will end." Der Zuwachs kam seither überwiegend aus dem Nachtraining und aus Denkzeit zur Inferenz, also aus bestärkendem Lernen auf überprüfbaren Aufgaben wie Mathematik und Code. Deine eigene Messung zeigt dasselbe: Bei Kimi K3 war nicht die Modellgröße der Kostentreiber, sondern die Denkzeit, mit effort: low lag der Preis um den Faktor acht niedriger. Wer heute mehr Leistung will, kauft Nachdenken, nicht Trainingstext. Der Chinesen-Befund stützt das eher, als dass er ihm widerspricht: Effizienz unter Hardware-Mangel ist genau kein Skalierungsargument.)

Geschenkt, nur ändert das nichts. Ein zweiter Hebel neben dem Vortraining macht die Entwicklung nicht langsamer, sondern schneller. Mir kommt es auf das Tempo an, nicht auf den Mechanismus.

Die Kritiker hatten unrecht

„Stochastischer Papagei", „alles nur kopiert", „das Modell versteht ja gar nichts" — diese Einwände haben die Debatte jahrelang bestimmt, und sie sind durch die Bank widerlegt. Ein Modell, das einen 90 Jahre offenen Beweis führt, hat ihn nicht aus den Trainingsdaten abgeschrieben.

(Claude: „Durch die Bank" ist schärfer als das, was du selbst veröffentlicht hast. Dein Artikel über den stochastischen Papagei endet mit dem Satz, die sauberste Position sei nicht „LLMs verstehen", sondern: Verstehen ist graduell und bereichsweise. Dieselbe Interpretability-Forschung, die belastbare Weltmodelle findet, findet auch Bereiche, in denen die Modelle nur mit überlappenden Daumenregeln arbeiten. Widerlegt ist die starke Lesart. Die Warnung, sprachliche Flüssigkeit nicht für Verlässlichkeit zu halten, gilt unverändert.)

Da hat er recht. Den Satz lasse ich trotzdem stehen, weil die Kritik öffentlich in der starken Fassung vorgetragen wurde, jahrelang und mit großer Geste. In dieser Fassung ist sie erledigt.

Freud, Mazlish und die Hybris

Sigmund Freud beschrieb 1917 in „Eine Schwierigkeit der Psychoanalyse" drei Kränkungen des menschlichen Selbstbildes. Kopernikus rückte die Erde aus dem Mittelpunkt, Darwin stellte den Menschen in die Tierreihe, und die dritte reklamierte Freud für sein eigenes Fach: Das Ich sei nicht Herr im eigenen Haus.

Der Wissenschaftshistoriker Bruce Mazlish schrieb 1967 eine vierte dazu, bei ihm heißt sie Diskontinuität: Der Mensch verliert den Alleinanspruch auf Intelligenz gegenüber den Geschöpfen, die er selbst gebaut hat. Die Zählung ist nicht kanonisch, Gerhard Vollmer kommt auf zehn, aber der Platz ist gut besetzt.

Hier liegt aus meiner Sicht der Grund, warum die Debatte so zäh verläuft. An Freuds drei Kränkungen lässt sich ablesen, wie lange Menschen brauchen, um eine Auskunft über sich selbst anzunehmen, die ihnen nicht passt. Gegen Kopernikus wurde nicht mit Daten argumentiert. Wer heute erklärt, das sei ja alles nur Statistik, führt selten eine Messung an. Die Debatte läuft über Begriffe, weil über die Ergebnisse zunehmend schwer zu streiten ist.

Ich halte AGI für nah, und der Beleg fehlt trotzdem

Meine Einschätzung: AGI kommt, und gut möglich, dass wir mit einem Teil davon längst arbeiten. Belegen kann ich das nicht, und niemand sonst kann es, weil die vier Definitionen vom Anfang unterschiedliche Antworten geben. Genau diese Lage macht die Sache unangenehm. Eine Kränkung, die man messen könnte, wäre leichter zu verarbeiten als eine, über deren Eintritt sich streiten lässt.

Wer die apokalyptischen Prognosen von Forschern wie Kokotajlo oder Hubinger für übertrieben hält, sollte deshalb nicht mit dem Hinweis argumentieren, es gebe keinen Beweis für AGI. Den gibt es in beide Richtungen nicht.

Die vier Einwände oben habe ich nicht eingebaut, um ausgewogen zu wirken. Sie stehen da, weil ich sie beim Schreiben bekommen habe und weil ein Text, der nur das Bestätigende zeigt, nichts wert ist. An zwei Stellen hat mich mein eigenes Archiv korrigiert. Das ist mir lieber, als es später von einem Leser zu hören.

Quellen

• Jo Bager: „Was AGI eigentlich ist – und warum es niemand genau weiß", c't / heise online, 11.09.2026
• Sigmund Freud: „Eine Schwierigkeit der Psychoanalyse", Imago, 1917
• Bruce Mazlish: „The Fourth Discontinuity", Technology and Culture 8(1), 1967; Buchfassung Yale University Press, 1993
• Morris u.a.: „Levels of AGI for Operationalizing Progress on the Path to AGI", arXiv:2311.02462 (Fassung vom 24.09.2025)
• François Chollet: „On the Measure of Intelligence", arXiv:1911.01547, 2019
• Dan Hendrycks u.a.: „A Definition of AGI", arXiv:2510.18212, 2025
• TIME: „What Happens When AI Starts Building AI?", 07.08.2026 (Glaese-Zitat, Anthropic-Messwerte)
• MIT Technology Review: „AI's recursive self-improvement might not come so quickly after all", 18.08.2026 (Princeton-Studie)
• Eigene Artikel: Navier-Stokes: was bewiesen wurde · Abschied vom stochastischen Papagei · GPT-6 Astra: Weltrekord und vier Rückschritte