Nunchaku, eine Quantisierungsmethode für Diffusionsmodelle, wird in die Hugging-Face-Diffusers-Bibliothek integriert. Das ermöglicht es, Bild- und Video-Generierungsmodelle mit nur 4-Bit-Präzision zu betreiben – deutlich speichereffizienter als bisherige Ansätze. Dies ist relevant für Entwickler, die KI-Modelle auf Hardware mit begrenzt Ressourcen (Smartphones, Edge-Devices) deployen möchten. Die Integration in ein zentrales Open-Source-Framework erhöht die praktische Zugänglichkeit solcher Optimierungstechniken erheblich.
