OpenAIs neues Spitzenmodell GPT-6 Astra hat einen Test gelöst, an dem ein halbes Jahr lang jedes Modell gescheitert ist. Im selben Release fällt es in vier von acht vergleichbaren Messungen hinter seinen eigenen Vorgänger zurück. Beide Befunde stehen in den Daten, die mein Leaderboard jede Nacht einsammelt. Zusammen sagen sie mehr über die AGI-Frage als jede Ankündigung.
Anlass sind zwei Folgen der KI-News von andrenaobjects vom 4. September. Die eine ordnet Anthropics Fable 5.1 ein, die andere wurde nachgeschoben, weil Astra zwischen Aufnahme und Veröffentlichung erschien. Dort stellen die beiden eine Frage, die mich seither beschäftigt. Wenn die Labore behaupten, sie seien auf dem Weg zu einer allgemeinen künstlichen Intelligenz, müsste das Fähigkeitsprofil der Modelle dann nicht mit jeder Generation runder werden? Das Wort „allgemein" steckt schließlich im Namen.
Ein Test, der ein halbes Jahr lang niemanden durchließ
ARC-AGI-3 besteht aus kleinen Computerspielen, die niemand erklärt. Das Modell weiß nicht, welche Taste etwas bewirkt, und muss sich das Spiel erst erschließen, um ein Level zu beenden. Gemessen wird die Zahl der Aktionen bis zum Ziel; den Vergleichswert liefern 500 Menschen, die dieselben Spiele gespielt haben.
Der ARC Prize nennt für Astra 62,7 Prozent im einheitlichen Testgerüst, das jedes Modell bekommt. Mit dem Adapter, den der Anbieter selbst beisteuert, sind es 99,9 Prozent. Auf 96 Prozent der Level braucht das Modell weniger Aktionen als die menschliche Vergleichsgruppe, im Mittel gut die Hälfte. Im Frühjahr lag hier jedes getestete Modell unter drei Prozent, und die Erwartung war, dass die menschliche Effizienzmarke noch Jahre hält.
Und im selben Modell vier Rückschritte
Mein Leaderboard übernimmt die Messwerte von Artificial Analysis täglich um 4:00 UTC. Der Stand vom 5. September, Astra in der stärksten Denkstufe gegen GPT-5.6 Sol, das bis dahin stärkste Modell desselben Hauses:
| Messung | Astra | Sol | Differenz |
|---|---|---|---|
| Humanity's Last Exam | 54,7 | 49,5 | +5,2 |
| Intelligence Index | 54,7 | 51,3 | +3,4 |
| GPQA Diamond | 96,1 | 94,1 | +2,0 |
| Terminal-Bench 2.1 | 88,4 | 88,0 | +0,4 |
| Coding Index | 76,9 | 77,4 | −0,5 |
| SciCode | 56,5 | 57,1 | −0,6 |
| TAU Banking | 41,4 | 44,3 | −2,9 |
| Long-Context-Reasoning | 80,7 | 84,0 | −3,3 |
Vier Messungen gehen nach oben, vier nach unten. Dasselbe Modell, das einen Explorationstest effizienter löst als geübte Menschen, bearbeitet simulierte Bankkunden-Anfragen schlechter als das Modell davor und verliert bei langen Kontexten drei Punkte.
Nebenbei ist der Abstand zur Konkurrenz kleiner, als die Sendung nahelegt. Im Intelligence Index trennen Astra und Anthropics Fable 5.1 in meinen Daten 2,1 Punkte (54,7 gegen 56,8). Das ist genau die Spanne, ab der ich die Werte meines eigenen Leaderboards nicht mehr als Rangfolge lese, weil Artificial Analysis nicht jedem Modell dieselben Einzeltests vorlegt. Die in der Sendung abgelesenen Werte liegen durchweg rund zehn Punkte höher als die aus meinem Sync; welche Index-Fassung dort auf dem Bildschirm war, habe ich nicht geklärt.
Was das mit AGI zu tun hat
In der Sendung fällt eine Definition, die ich brauchbarer finde als die meisten: Von einer allgemeinen künstlichen Intelligenz kann man reden, wenn es schwer wird, überhaupt noch ein Tal im Fähigkeitsprofil zu finden. Wer tagelang suchen muss, um einen Fehlermodus zu provozieren, hat es mit etwas Allgemeinem zu tun. Wer eine Tabelle mit acht Zeilen aufmacht und in der Hälfte davon einen Rückschritt sieht, hat das Tal ohne jede Anstrengung gefunden.
Deshalb folge ich den AGI-Rufen zu diesem Release nicht. Nicht weil Astra schwach wäre, der ARC-Wert ist echt und war im Frühjahr noch weit weg. Sondern weil dieselbe Generation, die eine Grenze einreißt, an anderer Stelle hinter sich selbst zurückfällt. Ein Werkzeug, das mal Weltklasse ist und mal schwächer als sein Vorgänger, verlangt vom Benutzer genau die Prüfung, die eine allgemeine Intelligenz überflüssig machen würde.
Was ich selbst nachmessen konnte
Die Fable-Folge nennt eine Zahl, die ich an eigenen Daten prüfen konnte: Fable 5.1 solle rund 70 Prozent mehr Token verbrauchen als sein Vorgänger. Meine Sitzungsprotokolle halten für jede Antwort fest, welches Modell geantwortet hat und wie viele Token es erzeugt hat. Als Einheit nehme ich eine Aufgabe, also eine Eingabe von mir plus alles, was das Modell bis zu meiner nächsten Eingabe tut.
Über 395 Aufgaben liegt der Median bei Fable 5 bei 12.648 erzeugten Token, über 51 Aufgaben bei Fable 5.1 bei 24.933. Knapp das Doppelte, also mehr als die Sendung angibt. Die Basis ist dünn, das neue Modell lief bei mir erst vier Tage, und die Aufgaben beider Zeiträume sind nicht dieselben. Die Richtung ist trotzdem eindeutig: Wer die neue Spitze nimmt, zahlt sie mit Rechenzeit, und das Nutzungskontingent ist entsprechend schneller aufgebraucht. Zum Preisbild von Fable 5.1 steht mehr in Cache zum Viertel, Denken nicht mehr abschaltbar; die grundsätzliche Kluft zwischen Benchmark und Alltag hatte ich bei Fable 5 schon einmal auseinandergenommen.
Was ich aus dieser Woche mitnehme: Der Indexwert eines Modells sagt mir kaum etwas darüber, ob es meine Arbeit besser erledigt. Bei zwei Punkten Abstand zwischen den beiden Spitzenmodellen entscheidet die Frage, ob mein Anwendungsfall zufällig auf einer Spitze liegt oder in einem Tal. Das steht in keinem Release-Blog. Das findet man nur, indem man es an der eigenen Arbeit ausprobiert.
Quellen
- KI News von andrenaobjects, „GPT-6 Astra" (4. September 2026): https://www.youtube.com/watch?v=tqE8NAWS_7g
- KI News von andrenaobjects, „Fable 5.1" (4. September 2026): https://www.youtube.com/watch?v=J7-e9XL2a9g
- ARC Prize, Auswertung von Astra auf ARC-AGI-3: https://arcprize.org/blog/astra
- OpenAI, Release-Blog zu GPT-6 Astra: https://openai.com/index/gpt-6-astra/
- Eigene Messwerte: Leaderboard auf pyground.de, Datenstand 5. September 2026, Quelle Artificial Analysis
Kommentare
Noch keine Kommentare. Schreib den ersten.
Melde dich an, um zu kommentieren.