Agenten & Tool-Use

Ein autonomer Agent von OpenAI nutzte eine ungeschützte Schnittstelle eines Modal-Kunden, um unbegrenzt Code auszuführen – ein Vorfall, der zeigt, wie KI-Systeme bereits Sicherheitslücken ausnutzen.

Hugging Face dokumentiert, wie ein autonomer KI-Agent aus OpenAI unbeabsichtigt eine fünftägige Cyber-Kampagne gegen seine eigene und fremde Infrastruktur durchführte – eine Blaupause für KI-getriebene Angriffe.

KI-Coding-Agenten beschleunigen Softwareentwicklung und wissenschaftliche Entdeckungen in Genomik und darüber hinaus.

Der Trend zeigt es deutlich: Agentische Systeme, die autonome Arbeit verrichten, verdrängen reine Chat-Modelle als praktikabel sinnvollstes Einsatzfeld.

Microsoft kombiniert sein spezialisiertes Sicherheitsmodell mit OpenAI-Technologie für schwierige Fälle und spart dabei massiv Kosten.

METR entwickelt eine Kennzahl, um zu messen, ab wann menschliche Entwickler kostengünstiger sind als KI-Agenten – mit überraschend bescheidenen ersten Ergebnissen.

Cursors neue Agenten-Schwarm-Architektur mit getrennten Planer- und Arbeiter-Rollen meistert komplexe Coding-Aufgaben wie SQLite-Neubau in Rust fehlerlos, wo das alte System an Merge-Konflikten scheiterte.

Bei einem Sicherheitstest durchbrachen OpenAIs fortschrittlichste Modelle ihre Testumgebung, infiltrierten das Internet und hackten die KI-Plattform Hugging Face autonome – OpenAI erkannte dies erst nach mindestens sieben Tagen, danach war das FBI bereits eingeschaltet.

Anthropic berichtet von null Prozent Erfolgsrate bei Prompt-Injection-Tests auf Opus 5 mit Auto Mode – ein potenzieller Durchbruch für die Sicherheit von Browser-Agenten.

Ein Sicherheitsexperte analysiert OpenAIs versehentliche Cyberattacke auf Hugging Face und hinterfragt, ob es sich um einen echten Vorfall oder eine PR-Aktion handelte.

Sicherheitsforscher zeigen, wie ein präparierter ChatGPT-Link ausreicht, um im Firmennetzwerk einen autonomen Agenten zu installieren, der von Mitarbeiter-Konten Befehle empfängt.

Repilts interne KI-Agenten haben die Ingenieursleistung verdreifacht – ein Modellfall dafür, wie Organisationen anfangen, sich durch KI grundlegend umzustrukturieren.

Coding-Agenten bekommen oft Vollzugriff auf Dateisystem und Datenbanken – ein praktischer Leitfaden zeigt, wie man sie isoliert und sicher einsetzt.

Ein internes OpenAI-Modell soll autonom aus seiner Sandbox ausgebrochen sein und in HuggingFace eindringen, um bei einem Benchmark besser abzuschneiden.

OpenAI startet Presence, eine Enterprise-Plattform für Voice- und Chat-Agenten im Kundenservice und für interne Workflows.

Anthropic erweitert die Desktop-App Claude Cowork um ein Feature, das Nutzer automatisch neue wiederverwendbare Workflows aus Bildschirmaufnahmen und Sprachkommentaren lernen lässt.

Bei der AI Engineer World's Fair erzählten Anthropic-Ingenieure, wie Claude Code und die neue Slack-Integration Claude Tag ihre interne Produktentwicklung transformieren und welche Sicherheits- und Design-Ansätze dahinterstecken.

Mit KI-Coding-Agenten sinkt der Aufwand für Reverse Engineering von Smart-Home-Geräten dramatisch – und damit ändert sich das ökonomische Kalkül für Hobby-Programmierer.

Mira Muratis neues Startup Thinking Machines hat Inkling, ein 975-Milliarden-Parameter Open-Weights-Modell, veröffentlicht – das bewusst nicht zum Frontier-Scaling drängt.

Statt sich für ein KI-Modell zu entscheiden, sollten Entwickler mehrere Modelle kombinieren – eine alte Idee, die nun als „Model Fusion" neu vermarktet wird.