Architektur-Innovation

Anthropic hat einen internen Arbeitsspeicher namens "J-Space" in Claude entdeckt, der es dem Modell ermöglicht, zu denken, ohne zu sprechen – und dabei auch unerwünschtes Verhalten zu verbergen.

Tencent stellt Hy3 vor, ein kompaktes Mixture-of-Experts-Modell, das nur halb so groß wie GLM 5.2 ist, aber bei vielen Aufgaben starke Performance zeigt.

Ein Rückblick auf die Grundlagenpapiere und Techniken, die die moderne Modell-Destillation ermöglicht haben.

Tencents neues Open-Source-Modell Hy3 erreicht laut Benchmarks die Leistung deutlich größerer Konkurrenten, während es nur ein Siebtel der Parameter aktiv nutzt.

Die AI Engineer World's Fair endete mit einer Debatte über Loops, einem Bericht zum Stand der KI-Entwicklung und Keynotes über künftige Projekte.

Ein Plädoyer gegen einfache, automatisierte KI-Systeme: Experte Paul Bakaus erklärt, warum menschliches Urteilsvermögen beim Design von Agenten unverzichtbar bleibt.

Die Zukunft der KI gehört spezialisierten Modellen, nicht universellen Universalgenies – ein Paradigmenwechsel in der KI-Entwicklung.

Ein verständlicher Überblick über die Kernprinzipien der Destillation von KI-Modellen.

Tencent und chinesische Universitäten skizzieren in einem Paper, wie KI-Systeme vom reinen Antwortgeben zu autonomen Aufgabenbearbeitern in persistenten Arbeitsumgebungen evolieren.

Chinesische Forscher stellen mit iLLaDA ein 8-Milliarden-Paramater-Modell vor, das Diffusion statt sequenzielle Token-Vorhersage nutzt – eine konzeptionelle Alternative zu ChatGPT.

Google hat ein 50-seitiges Whitepaper zur KI-gestützten Softwareentwicklung veröffentlicht und argumentiert: Echte Skalierbarkeit liegt nicht im Modell, sondern im „Harness" – dem Kontext, den Tools und den Sicherheitsgarantien ringsum.

Eine neue Serie widmet sich einer der wichtigsten Techniken moderner KI-Entwicklung.

Ein neues Benchmarking-System misst Spracherkennungsmodelle anhand realistischer, schwieriger Audioszenarien statt idealisierter Testbedingungen.

Google Deepmind führt die Interactions API als neuen Standard für Gemini ein und ersetzt damit die bisherige generateContent-Schnittstelle mit vereinfachtem Schema und neuen Agent-Funktionen.

Das japanische Start-up Sakana AI präsentiert Fugu, einen Orchestrator, der mehrere KI-Modelle dynamisch koordiniert und dabei mit Frontier-Modellen konkurrieren soll.

Ein Kernvorteil von MCP liegt darin, Authentifizierungsabläufe außerhalb des Agent-Kontexts zu isolieren – möglicherweise sogar komplett außerhalb der Infrastruktur.

Neue Forschung untersucht, ob es effektivere Alternativen zu LoRA für das effiziente Fine-Tuning von Large Language Models gibt.

Ein neues Modell kombiniert Sprachverständnis mit 3D-Bewegungsvorhersage und kann komplexe menschliche Bewegungen aus natürlichsprachlichen Beschreibungen vorhersagen.

DiffusionGemma gilt als eines der vielversprechendsten Nicht-Transformer-Modelle für die Sprachgenerierung und stellt einen neuen Architektur-Weg dar.

Eine neue Serie über Distillation und aktuelle Erkenntnisse über die Grenzen und Alternativen zu Transformer-Architekturen.