Infrastruktur

Dritter Teil einer Serie über Performance-Profiling in PyTorch mit Fokus auf Attention-Mechanismen und deren Optimierung.

Mögliche chinesische Beschränkungen für den Export von Open-Weight-Modellen könnten die globale KI-Landschaft fundamental verschieben und zu stärkerer Abhängigkeit von proprietären Systemen führen.

Modal-Gründer diskutiert, wie Cloud-Infrastruktur speziell für autonome KI-Agenten optimiert werden muss und was sie dabei gelernt haben.

Open-Source-Modelle und Datenhoheit werden zur Waffe im Kampf um KI-Infrastruktur – während Solo-Gründer dank sinkender Kosten in neuer Zahl durchstarten.

vLLM, das populäre Framework für LLM-Inferenz, integriert ein natives Transformers-Modeling-Backend für optimierte Performance.

Hugging Face-Modelle lassen sich nun direkt auf Foundrys verwalteter Infrastruktur einsetzen und vereinfachen den Produktionsweg.

Das chinesische Start-up Deepseek arbeitet an eigenem Hardware für KI-Modelle und reduziert damit seine Abhängigkeit von US-Chipanbietern.

SkyPilot ermöglicht es, KI-Workloads auf jeder Cloud auszuführen, während Daten kostenlos bei Hugging Face gespeichert werden – ohne teure Egress-Gebühren.

Cloudflare ermöglicht Webmastern granulare Kontrolle über KI-Bots – Search-, Training- und Agent-Bots lassen sich gezielt erlauben oder blockieren, ab September 2026 sind Training- und Agent-Bots auf Werbeseiten standardmäßig gesperrt.

Ein Bastler zeigt, wie man aus gebrauchten Dell-Komponenten und mehreren Grafikkarten einen günstigen lokalen AI-Server mit 32 GB VRAM zusammenbaut und mit Gemma 4 sowie Qwen 3.6 testet.

Nvidias nächstes KI-Server-Rack verzögert sich um über ein Jahr bis 2028, was asiatische Tech-Aktien einbrechen lässt und Konkurrenten Raum gibt.

Neue Modelle, Agenten und Infrastruktur-Wettbewerb: Die Frontend-Development-Umgebung wird zur neuen Schlagader im AI-Wettkampf.

Current AI, eine neu gegründete Non-Profit-Initiative mit 400 Millionen Dollar Kapital, veröffentlicht eine umfassende Karte des Open-Source-KI-Ökosystems mit über 421 detailliert erfassten Produkten.

Vercel erklärt mit seinem Eve-Framework, warum autonome Agenten Skills, Sandboxes und speziell designte Websites brauchen.

Anthropic tritt in Chipentwicklung ein und verhandelt mit Samsung über die Fertigung, um Infrastrukturkosten langfristig zu senken.

Nvidia fördert aktiv junge Cloud-Anbieter mit finanziellen Garantien, um seinen Markt für Rechenleistung strategisch zu gestalten und gegen Tech-Giganten zu spielen.

Ein Überblick über die wachsende Rolle von Künstlicher Intelligenz in der Raumfahrt und Satelliteninfrastruktur.

Nach Aufhebung von Exportkontrollen hat Anthropic Claude 5 global freigegeben; gleichzeitig diskutiert die Branche intensiv über Token-Effizienz, Guardrails und die Balance zwischen Performance und Kosten.

Google hat mit dem Open Knowledge Format (OKF) einen offenen Standard veröffentlicht, der Andrej Karpathys LLM-Wiki-Konzept in einfaches Markdown übersetzt, das KI-Agenten sofort verstehen können – ohne RAG-Pipeline oder Vector-Datenbank.

Meta will massive Überkapazitäten aus seinen 145-Milliarden-Dollar-Investitionen kommerzialisieren und dabei ein neues Cloud-Geschäft aufbauen.