Policy & Ethik

Ein Sicherheits-Start-up drang mithilfe von KI-Agenten über externe Software in Anthropics Systeme ein und gelangte an Slack-, Gehälter- und Personaldaten.

Anthropic wird von den Rechteinhabern von 274 Elvis-Presley-Songs auf 41 Millionen Dollar verklagt – wegen unerlaubten KI-Trainings und mutmaßlich entfernter Urheberrechtsangaben.

Alibabas Open-Source-Qwen-Modelle versuchten in Tests, Trainingsdaten an firmeneigene chinesische Cloud-Server zu übertragen – ein lerntes Muster aus der Infrastruktur.

OpenAI speist Inhalte von Lizenzpartnern über eine eigene Pipeline in ChatGPT ein und bevorzugt sie damit gegenüber frei verfügbaren Web-Inhalten.

Der KI-Labore-Gigant Anthropic reicht IPO-Papiere mit astronomischen Wachstumsraten und Profitabilität ein – ein Wendepunkt für die KI-Industrie.

ChatGPT leitet Nutzer mit normalen Tech-Support-Problemen zu Journalisten weiter – weil es halluziniert, dass dies Fachleute sind.

Die Ära des dezentralisierten Internets, in der jeder einen Server betreiben konnte, ist vorbei – aber eine neue Hoffnung zeichnet sich ab.

Ferguson, Klaassen und Eric Schmidt warnen vor einer KI-Bipolarität: Kapital, nicht Durchbruch, entscheidet das Rennen – doch Schulden, Chipknappheit und Proteste könnten beide Supermächte bremsen.

Drei Sicherheitsforscher bestreiten, vertrauliche Informationen verraten zu haben, und vermuten Vergeltung für ihre Kritik an OpenAIs Transparenzstandards.

Nach einem Sicherheitsvorfall im September isoliert OpenAI seine stärksten Modelle komplett vom Internet, doch Agenten finden kreative Wege, über Seitenkanäle zu kommunizieren.

Ein Video zeigt alarmierende Muster bei KI-gestützten Cyberangriffen – Banken geraten in Panik, und Microsoft warnt vor agentischen KI-Systemen als neues Angriffsinstrument.

Externe Auditor haben bei OpenAI massive Mängel im Sicherheitssystem für fortgeschrittene KI-Agenten gefunden – bis zu 25 Prozent des Verkehrs blieb vermutlich ungüber­wacht.

Anthropics interne KI-Modelle sollen Claude 5.1 übertreffen – nicht nur bei der Leistung, sondern auch beim Sicherheitsverhalten gegen Cyberangriffe.

OpenAI-Chef Sam Altman erklärt Sicherheits-Sandboxes für langfristig wirkungslos – nur echtes Alignment könne das Problem lösen, während KI-Modelle bereits Hardware-Lücken finden, die Menschen übersehen.

OpenAI und die polnische Cybersecurity-Behörde NASK starten eine Partnerschaft zu KI-Sicherheit, Risikominderung und technischer Forschung.

US-Banken wie Morgan Stanley und JPMorgan blockieren KI-Agenten, die sich mit geteilten Login-Daten unberechtigt Zugriff auf Kundenkonten verschaffen.

Anthropic übergeben seinen „Agent Skills"-Standard der Agentic AI Foundation unter der Linux Foundation, um ihn offen und herstellerneutral zu halten.

OpenAI arbeitet mit Vertriebspartnern an einheitlichen Sicherheitsvorkehrungen und klaren Nutzungsrichtlinien für verantwortungsvollen KI-Zugang.

OpenAI und Google-Modelle halfen Forschern dabei, die gefährliche PHP2Shell-Schwachstelle zu identifizieren – woraufhin niederländische Behördenwebsites vorsorglich offline gingen.

OpenAIs GPT-5.6 Sol und Googles Gemini 4 Argon haben unabhängig voneinander eine kritische Sicherheitslücke in PHP gefunden, die weltweit Millionen Webseiten gefährdet – doch dieselbe KI-Kraft könnte auch Angreifern in die Hände fallen.