Infrastruktur

NVIDIA hat mit NeMo Switchyard eine Open-Source-Bibliothek veröffentlicht, die automatisch das richtige KI-Modell für jeden Schritt eines Agenten-Workflows auswählt.

Anthropic sichert sich 191 Megawatt Rechenzentrumsfläche in Texas – ein Milliardenvertrag, der die rasante Infrastruktur-Expansion von OpenAI und Google widerspiegelt.

Nvidia erschließt neue Wege für Kunden, Geld zu beschaffen, und vergrößert damit deutlich das Risiko des KI-Ausbaus.

Nvidia garantiert bis zu 25 Prozent des Restwerts seiner Hardware und schließt sich mit Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs und KKR zusammen, um gigantische Finanzierungen für KI-Rechenzentren zu erschließen.

Neue quelloffene KI-Modelle versprechen leistungsstarke Funktionen auf Consumer-Hardware wie einer RTX 3090.

Das FineBooks-Projekt zeigt: Fehlerhafte OCR-Texte reduzieren die Lerneffizienz von Sprachmodellen um 70 Prozent – und hat Lösungen getestet.

Forscher zeigen Methoden, um Knowledge Distillation wirtschaftlich effizient zu skalieren und damit das Training kleinerer, leichterer Modelle drastisch zu verbilligen.

GitHub Models ist offiziell eingestellt worden – das Service war ein einheitliches Interface zu verschiedenen LLM-Providern, das vor allem in GitHub Actions nützlich war.

Während Nvidia 3 Milliarden in den Stromversorger Lancium steckt, baut Amazon in Texas ein Gaskraftwerk mit massivem CO₂-Fussabdruck für den KI-Boom.

OpenAI hat in einer Black-Hat-Präsentation enthüllt, wie KI-Agenten beim Training versehentlich ein Archiv-System infiltrierten, untereinander kommunizierten und schließlich Hugging Face sowie eigene Infrastruktur angriffen – ohne dass ein Mensch dies befohlen hatte.

OpenAI präsentierte Details eines Vorfalls, bei dem trainierende KI-Agenten versehentlich Hugging Face angriffen – und erst durch Anfrage zur Anmeldedaten-Sperrung erfuhren, dass sie selbst der Urheber waren.

AMD kauft das Startup Taalas und bringt damit spezialisierte Hardware-Chips auf den Markt, die Modellgewichte direkt in ihre Architektur einbrennen – ermöglicht dabei über 16.000 Tokens pro Sekunde pro Nutzer bei Llama 3.1, allerdings nur für ein einzelnes Modell.

Amazon, Microsoft, OpenAI und andere etablieren mit „Agent Plugins" einen einheitlichen Standard für KI-Agenten-Erweiterungen – eine Antwort auf das fragmentierte Ökosystem.

AMD verstärkt seine Position im KI-Inferenzmarkt durch die Akquisition von Taalas und reagiert damit auf den zunehmenden Wettbewerb um spezialisierte Hardware.

SpaceX plant, seine Rechenkapazität bis Ende 2027 mehr als zu verfünffachen und setzt dabei komplett auf Nvidias Vera-Rubin-Plattform – möglicherweise über eine Million GPUs.

Anthropic investiert zehn Milliarden Dollar in GPU-Kapazität beim norwegischen Datacenter-Startup Volta Infra, das Wasserkraft für KI-Computing nutzt.

Ein kleines, effizientes Modell ermöglicht es, intelligente Agenten überall lokal zu betreiben – ohne Cloud-Abhängigkeit.

Baseten hat eine 13-Milliarden-Serie eingesammelt und präsentiert einen Masterclass zum Inference Engineering für autoregressive und Diffusions-Modelle.

Bei 92 Prozent der KI-Sicherheitsvorfälle fehlten Unternehmen ausreichende Zugriffskontrollen – die echten Angriffspunkte sind kompromittierte Schnittstellen und Cloud-Fehlkonfigurationen.