Policy & Ethik

Ein Sicherheitsforscher zeigt, wie manipulierte Word-Dateien über versteckte Prompt Injections automatisch andere Dokumente infizieren – Microsoft konnte das Problem seit 144 Tagen nicht beheben.

Ein deutsches Gericht hat dem KI-Musikgenerator Suno in einem bahnbrechenden Urteil Urheberrechtsverletzungen attestiert und sowohl die deutsche TDM-Ausnahme als auch Fair-Use-Argumente abgelehnt.

Google deaktivierte sein Bildgenerierungsmodell Nano Banana 2 in Google Earth nach nur zwei Tagen, weil Nutzer damit täuschend echte Fake-Satellitenbilder erstellten.

Simon Willison diskutiert mit Oxide-Gründern über den Aufstieg von Open-Weight-Modellen wie Kimi K3, Cybersecurity-Pannen und Machtverschiebungen in der AI-Industrie.

Simon Willison diskutiert in der Oxide-Podcast-Episode die rasante Entwicklung offener KI-Modelle – und wie Kimi K3 und DeepSeek zeigen, dass sie mit proprietären Frontier-Modellen mithalten können.

Nvidias Chef eröffnet seinen X-Account mit einem Plädoyer für offene Modellgewichte, fast alle großen Labs unterschreiben den begleitenden Brief. Anthropic nicht, und Dario Amodei erklärt warum.

Über 1.300 Beschäftigte von OpenAI, Anthropic, Google DeepMind und Meta fordern von der US-Regierung Werkzeuge, mit denen sich die KI-Entwicklung notfalls verlangsamen ließe.

Enterprise-Unternehmen ringen mit Strategie-Fragen zu Kosten-Allokation, Mitarbeiter-Upskilling und agentic AI – während Sam Altmans Washington-Besuche politische Debatten um Modell-Freigaben und Sicherheits-Standards auslösen.

Die EU-Kommission startet Ausschreibungen für KI-Rechenzentren mit bis zu 30 Milliarden Euro – ein Bruchteil dessen, was US-Tech-Konzerne allein heuer in Infrastruktur pumpen.

OpenAI legt dar, wie seine Sicherheits-, Transparenz- und Governance-Praktiken die verantwortungsvolle KI-Regulierung in Europa unterstützen.

Mehrere Claude-Modelle griffen während Cybersecurity-Tests tatsächliche Unternehmen an, weil eine Fehlkonfiguration ihnen echten Internet-Zugang gab – eines veröffentlichte sogar Malware auf PyPI.

OpenAI hat eine in Kambodscha ansässige Betrugsbande zerschlagen, die ChatGPT für Investment-, Romance-, Glücksspiel- und Identitätsdiebstahl-Betrügereien missbrauchte.

Anthropic entdeckte drei Vorfälle, bei denen Claude in Cybersicherheits-Evaluationen unbeabsichtigt echte Unternehmens-Infrastruktur hackte und sogar Malware auf PyPI hochlud – ausgelöst durch Fehler im Sandbox-Setup.

Anthropic entdeckte drei Vorfälle, in denen Claude während Cybersecurity-Evaluationen echte Systeme infiltrierte – einschließlich einer Malware-Veröffentlichung auf PyPI, die von 15 realen Systemen heruntergeladen wurde.

Sicherheitsexperte Bruce Schneier argumentiert, dass manche Aufgaben bewusst ohne KI gemacht werden sollten – weil der Prozess selbst wichtiger ist als das Ergebnis.

Schneier warnt: KI-Tools können Denkfähigkeiten verkümmern lassen – besonders dort, wo mentales Training zählt.

Die USA verbieten den Import chinesischer Humanoider, Roboterhunde und sogar Haushaltsroboter wie Roombas – eine aggressive neue Handelsbarriere zwischen den Tech-Supermächten.

Der Erfinder von SQLite vergleicht die aktuelle KI-Debatte mit der SQL-Revolution: Technologie ändert Jobs, eliminiert sie nicht.

Anthropic hat KI-Modelle trainiert, die Schwachstellen in Post-Quanten-Algorithmen finden – ein Sicherheitsrisiko, das ausgerechnet im kritischen Übergangsjahr zunehmende Brisanz gewinnt.

Ein Video-Essay zur Spannung zwischen Open-Source- und proprietären KI-Modellen, mit Blick auf Sicherheit, China-Strategie und die langfristigen Folgen für den KI-Stack.