Infrastruktur

Lokale KI-Systeme machen rasante Fortschritte und werden zunehmend reif für Laptops, Smartphones und Enterprise-Infrastrukturen.

OpenAI hat durch massive Optimierungen die Kosten für KI-Inferenz um über 50 Prozent reduziert – ein großer Schritt zur wirtschaftlichen Skalierung.

Googles neues Spitzenmodell Gemini Omni Flash ist über eine API verfügbar und ermöglicht Entwicklern die Integration von Video-Verarbeitungs- und Conversational-Fähigkeiten in ihre Anwendungen.

Chinesischer Lieferdienst Meituan trainiert ein 1,6-Billionen-Parameter-KI-Modell erfolgreich auf heimischen Chips ohne Nvidia-Abhängigkeit.

Taiwanische Behörden durchsuchen die Büros von Super Micro Computer und lokalen Partnern wegen des Verdachts auf Chip-Schmuggel – ein neuer Knotenpunkt im Technologie-Wettkampf zwischen USA und China.

DeepSeek beschleunigt seine KI-Modelle durch ein Speculative-Decoding-Verfahren erheblich, was Chinas Unabhängigkeit von US-Chips weiter stärkt.

OpenAI-Ingenieure kombinierten großflächige Core-Dump-Analysen mit Hardware-Debugging und entdeckten dabei einen seit fast zwei Jahrzehnten verborgenen Software-Bug.

Südkoreas Speicher-Giganten bauen mit Unterstützung der Regierung massiv in HBM-Chipfabriken aus, um die explodierende KI-Nachfrage zu bedienen.

Zwanzig Tech-Konzerne, KI-Labore und Banken schliessen sich zu Akrites zusammen, um Sicherheitslücken in kritischer Open-Source-Software zu schliessen, bevor KI-Werkzeuge sie ausnutzen.

Hugging Face integriert vLLM-Deployment direkt in seine Jobs-Plattform, um das Starten von LLM-Servern zu vereinfachen.

Qualcomm bringt mit dem Dragonfly C1000 seinen ersten Rechenzentrumsprocessor für KI-Agenten auf den Markt – Meta wird einer der ersten Abnehmer sein.

NVIDIA stellt ein neues Tool vor, das das Fine-Tuning großer Sprachmodelle durch automatische Optimierungen beschleunigt.

OpenAI und Broadcom entwickeln gemeinsam einen speziellen Inferenz-Chip für große Sprachmodelle, der ab Ende 2026 in Produktion gehen soll.

OpenAI und Broadcom präsentieren Jalapeño, einen speziell für die LLM-Inferenz optimierten Chip, der Performance und Effizienz von KI-Systemen verbessern soll.

Während westliche Memory-Hersteller chinesischen Konkurrenten Chancen eröffnen, setzt Microsoft strategisch auf chinesische KI-Modelle.

Die Transformers.js-Bibliothek erkundet eine neue Browser-API zur plattformübergreifenden Speicherung von Modellgewichten – für schnellere und effizientere KI-Inferenz im Web.

Micron investiert in Anthropics Serie-H-Finanzierungsrunde und wird Mehrjahres-Speicherlieferant für Claude – ein Deal, der die wachsende Verflechtung zwischen KI-Labs und Hardware-Herstellern zeigt.

Microsoft plant im texanischen Pecos einen massiven KI-Rechenzentrum-Campus mit 2 Gigawatt Kapazität und reagiert damit auf lokale Widerstände mit Versprechungen zu stabilen Strompreisen und minimalem Wasserverbrauch.

Cloudflare bietet jetzt ephemäre Workers-Projekte an, die 60 Minuten kostenfrei laufen – ohne Account-Erstellung, ideal für AI-Agenten und schnelle Prototypen.

Ein Kernvorteil von MCP liegt darin, Authentifizierungsabläufe außerhalb des Agent-Kontexts zu isolieren – möglicherweise sogar komplett außerhalb der Infrastruktur.