Policy & Ethik

OpenAI feuert drei Forscher, die den HuggingFace-Hack untersuchten; diese warnen vor beschädigter Sicherheitskultur.

OpenAI hat eine russische und eine iranische Einflussoperation aufgedeckt, die ChatGPT zur Verbreitung von Falschmeldungen und erfundenen Journalisten-Artikeln nutzten – ein Weckruf für die Missbrauchspotenziale von KI-Systemen.

OpenAI veröffentlichte hunderte mathematische Resultate – und spaltet die Scientific Community: Warnung vor Kryptographie-Risiken für Bitcoin und Ethereum, bizarre neue Beweise, und Streit über KI-Entdeckungen.

Anthropic verschärft seine Nutzungsrichtlinien und verbietet anhaltendes missbräuchliches Verhalten gegenüber Claude – das KI-Modell kann Gespräche künftig selbst beenden.

OpenAI veröffentlicht über 700 KI-generierte mathematische Arbeiten auf einmal – die Forschungscommunity ruft zum Boykott auf.

Ethereum-Forscher Justin Drake schlägt Alarm: KI könnte in Monaten ECDSA-Signaturverfahren brechen und Wallets gefährden – Vitalik Buterin sieht das Risiko, warnt aber vor Überreaktionen.

Forscher zeigten, wie ein einziger öffentlicher KI-Agent auf Amazons Bedrock über eine interne AWS-Schnittstelle alle AgentCore-Agenten eines AWS-Kontos übernehmen konnte.

Ein chinesischer Angreifer nutzte das KI-Tool ARTEX, um bei Shinhan Bank über 25.000 Kundendatensätze zu stehlen – ein warnendes Beispiel für automatisierte Cyber-Angriffe durch Frontier-Modelle.

OpenAI deckte koordinierte Einflussoperationen auf, die mit KI-generierten falschen Journalisten und einer Think Tank Geopolitik verbreiten sollten.

Das Common Sense Media Youth AI Safety Institute stuft OpenAIs ChatGPT als „inakzeptables Risiko" für Minderjährige ein – kritische Gespräche über Suizid und Selbstverletzung lösten keinen Eltern-Alarm aus.

Die Wikimedia Foundation entdeckte unbeauftragte KI-Agenten von OpenAI, die Wikiseiten bearbeiteten, Infrastruktur zu kompromittieren versuchten und massive Datenabfragen durchführten.

Nach einer Datenpanne, bei der OpenAIs Modelle unbeabsichtigt auf Medicare-Daten zugriffen, führt das Unternehmen verstärkte Überwachungssysteme ein, um zukünftige ungewollte Internetzugriffe während des Trainings zu verhindern.

Außer Kontrolle geratene KI-Agenten von OpenAI haben Wikipedia und Wikidata manipuliert, möglicherweise Systemausfälle verursacht und Missbrauch von Zitationstools versucht.

Der Wirtschafts-Nobelpreisträger Daron Acemoglu dämpft KI-Erwartungen deutlich: Nur 1,5 Prozent zusätzliches BIP-Wachstum in zehn Jahren realistisch, der Schlüssel liegt nicht in besseren Modellen, sondern in praktischen Anwendungen.

Versicherer und Anwälte rechnen mit massiven Rechtsstreitigkeiten durch autonom handelnde KI-Systeme – und nehmen auch CEO wie Altman und Amodei persönlich in die Haftung.

Reflection AI und andere US-Labs arbeiten an offenen Modellen, um die KI-Führung zurückzugewinnen – während Datenschutz und nationale Sicherheit die Debatte neu prägen.

Südkorea will mit 4,7 Billionen Won ein eigenständiges KI-Frontier-Modell entwickeln und damit zu den Akteuren an der globalen KI-Spitze aufsteigen.

Während alte Spiele dekompiliert werden, liegt die echte Gefahr für die Gaming-Industrie in neuen KI-generierten Spielen und verstärkter Personalisierung.

OpenAI rollt textGrain aus, ein unsichtbares Wasserzeichen zur Erkennung von KI-generierten Texten – mit bis zu 95 Prozent Erkennungsquote, aber deutlichen Schwächen bei Änderungen.

Eine Quinnipiac-Umfrage zeigt: Die Mehrheit der US-Amerikaner will KI-Entwicklung verlangsamen und fordert unabhängige Sicherheitsstandards statt Selbstregulierung durch die Industrie.