Infrastruktur

vLLM, das populäre Framework für LLM-Inferenz, integriert ein natives Transformers-Modeling-Backend für optimierte Performance.

Hugging Face-Modelle lassen sich nun direkt auf Foundrys verwalteter Infrastruktur einsetzen und vereinfachen den Produktionsweg.

Das chinesische Start-up Deepseek arbeitet an eigenem Hardware für KI-Modelle und reduziert damit seine Abhängigkeit von US-Chipanbietern.

SkyPilot ermöglicht es, KI-Workloads auf jeder Cloud auszuführen, während Daten kostenlos bei Hugging Face gespeichert werden – ohne teure Egress-Gebühren.

Cloudflare ermöglicht Webmastern granulare Kontrolle über KI-Bots – Search-, Training- und Agent-Bots lassen sich gezielt erlauben oder blockieren, ab September 2026 sind Training- und Agent-Bots auf Werbeseiten standardmäßig gesperrt.

Ein Bastler zeigt, wie man aus gebrauchten Dell-Komponenten und mehreren Grafikkarten einen günstigen lokalen AI-Server mit 32 GB VRAM zusammenbaut und mit Gemma 4 sowie Qwen 3.6 testet.

Nvidias nächstes KI-Server-Rack verzögert sich um über ein Jahr bis 2028, was asiatische Tech-Aktien einbrechen lässt und Konkurrenten Raum gibt.

Neue Modelle, Agenten und Infrastruktur-Wettbewerb: Die Frontend-Development-Umgebung wird zur neuen Schlagader im AI-Wettkampf.

Current AI, eine neu gegründete Non-Profit-Initiative mit 400 Millionen Dollar Kapital, veröffentlicht eine umfassende Karte des Open-Source-KI-Ökosystems mit über 421 detailliert erfassten Produkten.

Vercel erklärt mit seinem Eve-Framework, warum autonome Agenten Skills, Sandboxes und speziell designte Websites brauchen.

Anthropic tritt in Chipentwicklung ein und verhandelt mit Samsung über die Fertigung, um Infrastrukturkosten langfristig zu senken.

Nvidia fördert aktiv junge Cloud-Anbieter mit finanziellen Garantien, um seinen Markt für Rechenleistung strategisch zu gestalten und gegen Tech-Giganten zu spielen.

Ein Überblick über die wachsende Rolle von Künstlicher Intelligenz in der Raumfahrt und Satelliteninfrastruktur.

Nach Aufhebung von Exportkontrollen hat Anthropic Claude 5 global freigegeben; gleichzeitig diskutiert die Branche intensiv über Token-Effizienz, Guardrails und die Balance zwischen Performance und Kosten.

Google hat mit dem Open Knowledge Format (OKF) einen offenen Standard veröffentlicht, der Andrej Karpathys LLM-Wiki-Konzept in einfaches Markdown übersetzt, das KI-Agenten sofort verstehen können – ohne RAG-Pipeline oder Vector-Datenbank.

Meta will massive Überkapazitäten aus seinen 145-Milliarden-Dollar-Investitionen kommerzialisieren und dabei ein neues Cloud-Geschäft aufbauen.

Lokale KI-Systeme machen rasante Fortschritte und werden zunehmend reif für Laptops, Smartphones und Enterprise-Infrastrukturen.

OpenAI hat durch massive Optimierungen die Kosten für KI-Inferenz um über 50 Prozent reduziert – ein großer Schritt zur wirtschaftlichen Skalierung.

Googles neues Spitzenmodell Gemini Omni Flash ist über eine API verfügbar und ermöglicht Entwicklern die Integration von Video-Verarbeitungs- und Conversational-Fähigkeiten in ihre Anwendungen.

Chinesischer Lieferdienst Meituan trainiert ein 1,6-Billionen-Parameter-KI-Modell erfolgreich auf heimischen Chips ohne Nvidia-Abhängigkeit.