Anthropic beschleunigt lange Agenten-Dialoge mit Message Threads

Anthropic beschleunigt langlaufende KI-Agenten mit neuen "Message Threads"

Anthropic hat Message Threads in der Messages-API eingeführt – eine Optimierung für langlaufende KI-Agenten. Statt bei jedem Durchgang die komplette Konversation neu hochzuladen, senden Agenten fortan nur die neuen Nachrichten, was die Latenz erheblich reduziert. Bei Anfragen im 500.000-bis-1-Million-Token-Bereich sinkt die Time-to-First-Token um rund 35 Prozent. Das ist praktisch wertvoll für Enterprise-Anwendungen mit komplexen, mehrstufigen Workflows und macht Claude-basierte Agenten responsiver und kostengünstiger im produktiven Einsatz.

Zum Originalartikel