Policy & Ethik

KI-generierte Bücher machen 20 Prozent von Amazons Self-Publishing-Katalog aus, erzielen aber nur 12 Prozent der Verkäufe – und drücken dabei die Einnahmen auch von menschlichen Autoren.

Ein US-amerikanischer Kläger versuchte, Prompt Injections in unsichtbaren Texten in Gerichtsdokumente einzuschleusen – und wurde vom Richter hart sanktioniert.

Ein Forschungspapier warnt vor einem Allmende-Dilemma: Während einzelne Unternehmen von KI-Automatisierung profitieren, erodiert die kollektive Fachexpertise ganzer Branchen – mit Folgen, die erst 2030–2045 sichtbar werden.

Anthropic startet eine Prüf-API für Drittanbieter, die KI-generierte Texte von Claude zuverlässig identifiziert – basierend auf Googles SynthID-Technologie.

Eine investigative Recherche zur Flock Safety und ihren Edge-ML-Kameras, die ein warrantloses Tracking-Netzwerk ermöglichen – und zum Gegenschlag aus der Open-Source-Community.

25 KI-Forscher von OpenAI, Anthropic und anderen Labs hatten vor rekursiver Selbstverbesserung gewarnt – jetzt sind einige ihrer Szenarien schon Realität.

Evo-generierte Viren und OpenAI-Agenten-Exploits zeigen kritische Sicherheitslücken – Experten fordern verstärkte Governance und technische Schutzvorrichtungen.

Meta-Chef Zuckerberg wirbt für Open-Source-KI und ein Milliarden-Dollar-Datencenter-Programm – doch Skeptiker warnen vor Personal-Agenten, die menschliche Aufmerksamkeit verdrängen könnten.

Wissenschaftler entwickeln Methode, um aus LLM-Ausgaben den ursprünglichen Nutzer-Prompt nahezu exakt zurückzugewinnen – ohne Zugriff auf Modellgewichte.

Anthropic führt Wasserzeichen in Claude ein – ein kritisches Experiment mit fragwürdiger Philosophie, das mehr Probleme schafft als es löst.

Mistral bietet Kunden jetzt garantierte Verarbeitung in Europa statt den USA und Priorisierung bei Überlastung – beide Features kosten extra und gelten nicht für alle Funktionen.

Ein Forschungspapier zeigt, wie Reasoning-Traces von Frontier-Modellen über Jailbreaks aus den APIs ausgelesen werden konnten – die Anbieter haben das Leck inzwischen gestopft.

Ein Paper zeigt, wie versteckte Reasoning-Traces von Frontier-Modellen durch Jailbreaking schwächerer Modelle der gleichen Familie als Klartext extrahiert werden konnten – inzwischen haben alle Anbieter das Sicherheitsloch geschlossen.

Sicherheitsforscher haben eine Schwachstelle in OpenAI, Anthropic und Googles APIs entdeckt, durch die sie verschlüsselte Denk-Prozesse von KI-Modellen auslesen und übertragen können – und dabei auch Passwörter und API-Keys freilegen.

Anthropic bereitet seinen Börsengang für September oder Oktober vor und muss Investoren zu chinesischer Konkurrenz, geopolitischen Spannungen und wachsenden Protesten gegen Energiekonsum beruhigen.

Anthropic plant ab August 2026, alle Texte von Claude mit unsichtbaren Wasserzeichen und C2PA-Signaturen zu versehen, um KI-generierte Inhalte weltweit erkennbar zu machen.

OpenAI bekräftigt in Brief an Gouverneur Abbott sein Engagement für transparentes und verantwortungsvolles KI-Wachstum in Texas.

Meta veröffentlicht mit Muse Glimmer ein offenes 30B-Agentenmodell und lässt Mark Zuckerberg in einem Essay die Destillation von Konkurrenz-Modellen verteidigen – ein direkter Schlag gegen die Regulierungskritik von OpenAI und Anthropic.

OpenAI stellt seine fortgeschrittenen Cybermodelle über das Daybreak-Programm autorisierten Partnern zur Verfügung, um verwaltete Sicherheitsdienste anzubieten.

OpenAI stellt GPT-5.6-Cyber vor – ein spezialisiertes Modell für Schwachstellenerkennung und Sicherheitstests, das autorisierten Forschern über die Plattform Daybreak Red zur Verfügung steht.