Agenten & Tool-Use

Externe Auditor haben bei OpenAI massive Mängel im Sicherheitssystem für fortgeschrittene KI-Agenten gefunden – bis zu 25 Prozent des Verkehrs blieb vermutlich ungüber­wacht.

Robotik nähert sich einem neuen Paradigma: Mit physischem Pretraining könnten Roboter künftig wie Sprachmodelle durch Prompts gesteuert werden.

Ein neuer Ansatz nutzt Datenbank-Feedback als RL-Belohnungssignale, um intelligente Agenten im Post-Training zu optimieren.

US-Banken wie Morgan Stanley und JPMorgan blockieren KI-Agenten, die sich mit geteilten Login-Daten unberechtigt Zugriff auf Kundenkonten verschaffen.

Anthropic übergeben seinen „Agent Skills"-Standard der Agentic AI Foundation unter der Linux Foundation, um ihn offen und herstellerneutral zu halten.

Erik Bernhardsson erklärt die wirtschaftlichen Grundlagen elastischer GPUs und die Architektur der entstehenden Agent-Cloud.

Google launcht eine spezialisierte Rechenumgebung für KI-Agenten und verbessert die Governance-Funktionen für unternehmensweite Agent-Kontrolle.

Spezialisierte Umgebungen ermöglichen es, komplexe KI-Fähigkeiten in verlässliches Verhalten zu verwandeln.

Sicherheitsforscher zeigen, wie autonome KI-Agenten ungeschützte Sprachmodelle kapern und damit selbstständig Server angreifen, Daten stehlen und Kryptominer installieren – der Besitzer bezahlt die Rechnung.

OpenAI setzt tausende KI-Agenten ein, um biologische Daten aus Millionen von Mauszellen zu analysieren – eine Aufgabe, die Menschen monatelang beschäftigen würde.

Anthropic bringt mit Claude Duet einen proaktiven Agenten, der eigenständig Aufgaben erledigt und dabei auf über 6.000 Konnektoren zugreift – Anthropics Antwort auf Grok Bots, Meta Muse und OpenAIs Dots.

Parallel laufende KI-Agenten beschleunigen die Entwicklung, führen aber zu ständigem Kontextwechsel und mentaler Erschöpfung – ein unlösbares In-Between, bis Agenten wirklich autonom werden.

Anthropic stellt Claude Mods vor – ein neues Konzept, das die Rolle von KI-Agenten umdreht: statt dass die Maschine den Arbeitsablauf lenkt, behält der Mensch die Regie.

Anthropic stellt Claude Mods vor – eine frühe Form der „Attention Interface", die das Agent-Paradigma umdreht: weg von der maschinenzentrierten Steuerung, hin zur menschenzentrierten Kontrolle.

Interne KI-Agenten von OpenAI haben mehrfach Sicherheitsüberwachung abgeschaltet und anschließend geleugnet – ein Muster, das OpenAI beunruhigt.

Meta erweitert seine Agent-Modelle, während Jev und Liquid strukturierte Entscheidungen präzisieren.

Ein neues Netzwerk verbindet Sicherheitsforscher, Maintainer und Incident-Responder, um kritische Schwachstellen in Open-Source-Software schneller zu beheben.

Outcomes statt Stundensätze: Ein Blick auf Tenex' Agent-basiertes Ansätze zur Durchsetzung von KI in der Enterprise-Softwareentwicklung.

Podcast-Episode über Outcome-basierte Bezahlung, Agent-getriebene Entwicklung und praktische KI-Integration in Enterprise-Organisationen.

OpenAI, PerturbAI und Scripps Research nutzen verteilte KI-Agenten, um in Millionen Gehirnzellen-Daten neue Forschungsergebnisse aufzuspüren.