Infrastruktur

In einem ausführlichen Interview diskutiert OpenAI-Chef Sam Altman Fragen zu KI-Bewusstsein, rekursiver Selbstverbesserung, Compute-Infrastruktur und die Rolle von KI bei wissenschaftlichen Durchbrüchen.

Nvidia liefert Rechenzentren künftig fertig vormontiert in Containern aus und verspricht damit eine drastische Beschleunigung: Statt halbes Jahr nur noch zwei Wochen bis zur Inbetriebnahme.

DeepSeek veröffentlicht eine Open-Source-Inferenz-Lösung, die täglich über 150 Billionen Tokens verarbeitet und dabei eine beeindruckende Gewinnmarge von etwa 80 Prozent erreicht.

DeepSeek veröffentlicht mit DeepInfer eine Open-Source-Inferenzlösung, die täglich 155 Billionen Tokens verarbeitet und dabei erhebliche Margen generiert.

Evan Conrad skizziert eine Vision für dezentralisierte, programmierbare Infrastruktur: von GPU-Märkten über physische Abwicklung bis zu unabhängigen Compute-Plattformen.

Ein Vortrag über dezentralisierte GPU-Märkte und programmierbare Compute-Infrastruktur, die Handelsplattformen mit physischer Abrechnung verbindet.

DeepSeek veröffentlicht seine interne Betriebssoftware für KI-Modelle als Open Source und verschärft damit den Preiskampf mit westlichen KI-Anbietern.

PyTorch 2.15 verbessert die Unterstützung für Metal Performance Shaders (MPS) auf Apple-Geräten und ermöglicht effizienteres maschinelles Lernen auf Macs.

Hugging Face integriert TorchTPU, um Tensor Processing Units direkt über PyTorch verfügbar zu machen und damit Training und Inferenz auf Googles TPUs zu vereinfachen.

Der boomende Markt für spezialisierte KI-Cloud-Anbieter erleidet massive Rückschläge – Analysten rechnen mit einer Marktbereinigung, bei der nur noch eine Handvoll der Hunderten Startups überleben wird.

Strata nutzt Mixture-of-Experts-Architektur, um Qwen 3.8 Flash mit 125 Milliarden Parametern auf einer normalen Gaming-GPU laufen zu lassen – durch cleveres Caching der häufig genutzten Experten.

AWS vereinfacht das Deployment von Hugging-Face-Modellen auf seinen Trainium-Chips mit verbessertem TorchNeuron-Support.

Ein Video-Essay erklärt DeepSeeks Optimierungstechniken für effizientere KI-Modelle mit reduzierten Speicheranforderungen.

Ein Performance-Vergleich zeigt, dass das Inference-Framework Strata llama.cpp bei der lokalen Ausführung von Qwen 3.8 Flash auf modernen Grafikkarten um bis zu 4x schlägt.

Cloudflare hat Deno erworben; der Node.js-Schöpfer gibt zu, dass die Neuentwicklung ein Fehler war – ein Wendepunkt in den Laufzeit-Debatten der Web-Entwicklung.

Strategische These: Consumer-Agenten, Enterprise-Anwendungen und KI-Infrastruktur können alle zu Milliarden-Unternehmen heranwachsen – eine Mehrschichten-Strategie statt Sieger-nehmen-alles.

Das NY-Infrastruktur-Startup Modal hat in Serie D eine Bewertung von $16 Mrd. erreicht und steigerte seine ARR und Valuation innerhalb von fünf Monaten jeweils verdreifacht.

Die Serverless-Computing-Plattform Modal hat in fünf Monaten ihre Bewertung verdreifacht und ist mit 16 Milliarden Dollar zum jüngsten AI-Infrastruktur-Decacorn New Yorks aufgestiegen.

Neues KI-Modell simuliert extreme Wetterereignisse in 3-km-Auflösung kostengünstiger als traditionelle physikalische Methoden.

CEO Jensen Huang investiert 2 Milliarden Dollar in europäische KI-Infrastruktur und Startups, um den Kontinent bei KI aufzubauen.