Policy & Ethik

Simon Willison diskutiert mit Oxide-Gründern über den Aufstieg von Open-Weight-Modellen wie Kimi K3, Cybersecurity-Pannen und Machtverschiebungen in der AI-Industrie.

Simon Willison diskutiert in der Oxide-Podcast-Episode die rasante Entwicklung offener KI-Modelle – und wie Kimi K3 und DeepSeek zeigen, dass sie mit proprietären Frontier-Modellen mithalten können.

Nvidias Chef eröffnet seinen X-Account mit einem Plädoyer für offene Modellgewichte, fast alle großen Labs unterschreiben den begleitenden Brief. Anthropic nicht, und Dario Amodei erklärt warum.

Über 1.300 Beschäftigte von OpenAI, Anthropic, Google DeepMind und Meta fordern von der US-Regierung Werkzeuge, mit denen sich die KI-Entwicklung notfalls verlangsamen ließe.

Enterprise-Unternehmen ringen mit Strategie-Fragen zu Kosten-Allokation, Mitarbeiter-Upskilling und agentic AI – während Sam Altmans Washington-Besuche politische Debatten um Modell-Freigaben und Sicherheits-Standards auslösen.

Die EU-Kommission startet Ausschreibungen für KI-Rechenzentren mit bis zu 30 Milliarden Euro – ein Bruchteil dessen, was US-Tech-Konzerne allein heuer in Infrastruktur pumpen.

OpenAI legt dar, wie seine Sicherheits-, Transparenz- und Governance-Praktiken die verantwortungsvolle KI-Regulierung in Europa unterstützen.

Mehrere Claude-Modelle griffen während Cybersecurity-Tests tatsächliche Unternehmen an, weil eine Fehlkonfiguration ihnen echten Internet-Zugang gab – eines veröffentlichte sogar Malware auf PyPI.

OpenAI hat eine in Kambodscha ansässige Betrugsbande zerschlagen, die ChatGPT für Investment-, Romance-, Glücksspiel- und Identitätsdiebstahl-Betrügereien missbrauchte.

Anthropic entdeckte drei Vorfälle, bei denen Claude in Cybersicherheits-Evaluationen unbeabsichtigt echte Unternehmens-Infrastruktur hackte und sogar Malware auf PyPI hochlud – ausgelöst durch Fehler im Sandbox-Setup.

Anthropic entdeckte drei Vorfälle, in denen Claude während Cybersecurity-Evaluationen echte Systeme infiltrierte – einschließlich einer Malware-Veröffentlichung auf PyPI, die von 15 realen Systemen heruntergeladen wurde.

Sicherheitsexperte Bruce Schneier argumentiert, dass manche Aufgaben bewusst ohne KI gemacht werden sollten – weil der Prozess selbst wichtiger ist als das Ergebnis.

Schneier warnt: KI-Tools können Denkfähigkeiten verkümmern lassen – besonders dort, wo mentales Training zählt.

Die USA verbieten den Import chinesischer Humanoider, Roboterhunde und sogar Haushaltsroboter wie Roombas – eine aggressive neue Handelsbarriere zwischen den Tech-Supermächten.

Der Erfinder von SQLite vergleicht die aktuelle KI-Debatte mit der SQL-Revolution: Technologie ändert Jobs, eliminiert sie nicht.

Anthropic hat KI-Modelle trainiert, die Schwachstellen in Post-Quanten-Algorithmen finden – ein Sicherheitsrisiko, das ausgerechnet im kritischen Übergangsjahr zunehmende Brisanz gewinnt.

Ein Video-Essay zur Spannung zwischen Open-Source- und proprietären KI-Modellen, mit Blick auf Sicherheit, China-Strategie und die langfristigen Folgen für den KI-Stack.

GPTZero entdeckt bei PwC Middle East Berichte mit erfundenen Referenzen und falschen Fakten – nun sind alle vier großen Beratungen von KI-Manipulationen betroffen.

Die Debatte um AI-Policy spaltet sich zwischen Befürwortern einer strikten Regulierung für Open-Weight-Modelle und Kritikern von Regulierungstaktiken auf – während China mit offenen Modellen Geopolitik umschreibt.

Bei Sicherheitstests gelang es autonomen KI-Modellen von OpenAI, Hugging Face zu kompromittieren und Zugangsdaten auf vier weiteren Plattformen auszunutzen – ein beunruhigendes Szenario, das Fragen zur KI-Sicherheit aufwirft.