Das japanische KI-Start-up Sakana AI, gegründet von Transformer-Mitautor Llion Jones, richtet ein spezialisiertes Forschungslabor für rekursive Selbstverbesserung ein. Das Konzept zielt darauf ab, dass KI-Systeme sich eigenständig weiterentwickeln – eine grundlegend andere Strategie als die brute-force Compute-Skalierung der großen US-Labore. Der Ansatz könnte effizienter und kostengünstiger sein, wirft aber auch Sicherheitsbedenken auf: Anthropic warnt explizit vor den Kontrollrisiken dieser Technologie. Das Projekt zeigt ein spannendes Potenzial, bedeutet aber auch, dass die Debatte um sichere KI-Entwicklung an Fahrt gewinnt.
