Ein ehrgeiziges Projekt hat das Pretraining für Indic-Sprachen auf 2,8 Billionen Tokens skaliert – eine deutliche Expansion gegenüber bisherigen Modellen dieser sprachlichen Vielfalt. Besonders bemerkenswert ist die Veröffentlichung einer offenen Daten-Generierungs-Pipeline, die es anderen Forschern ermöglicht, qualitativ hochwertige Trainingsdaten für indische Sprachen zu erzeugen. Dies adressiert ein großes Problem im KI-Training: Die meisten großen Sprachmodelle sind stark auf Englisch optimiert, während Hunderte Millionen Menschen indische Sprachen sprechen. Das Projekt könnte KI-Fähigkeiten für einen großen Teil der Weltbevölkerung zugänglicher machen.
