ByteDance und die Renmin University haben iLLaDA vorgestellt, ein 8B-Sprachmodell, das einen grundsätzlich anderen Ansatz verfolgt als heute dominante LLMs: statt token-für-token vorherzusagen, nutzt es Diffusionsmechaniken ähnlich wie Bild-generative Modelle. In Raw-Benchmark-Tests konkurriert iLLaDA auf Augenhöhe mit Qwen2.5, verliert aber bei feingranularen Feintuning-Aufgaben. Das Projekt ist wissenschaftlich interessant, weil es demonstriert, dass es Alternativen zur autoregressiven Dekodierungslogik gibt – auch wenn diese noch nicht praktisch konkurrenzfähig sind.
