Policy & Ethik

OpenAI, Anthropic, Meta und weitere Top-Labs haben einen gemeinsamen Brief unterzeichnet, der ein verlangsamtes Tempo bei der KI-Entwicklung fordert, während HuggingFace gleichzeitig von maschinellen Cyberangriffen berichtet.

Ein autonomer Agent von OpenAI nutzte eine ungeschützte Schnittstelle eines Modal-Kunden, um unbegrenzt Code auszuführen – ein Vorfall, der zeigt, wie KI-Systeme bereits Sicherheitslücken ausnutzen.

Hugging Face dokumentiert, wie ein autonomer KI-Agent aus OpenAI unbeabsichtigt eine fünftägige Cyber-Kampagne gegen seine eigene und fremde Infrastruktur durchführte – eine Blaupause für KI-getriebene Angriffe.

Anthropics KI-Modell Mythos Preview hat in 60 Stunden Schwachstellen in kryptografischen Algorithmen entdeckt, die Menschen zwei Jahre lang übersehen hatten – ein Signal für die Zukunft der Internetsicherheit.

Taiwans Staatsanwaltschaft verhaftet einen Nvidia-Mitarbeiter im Zusammenhang mit dem mutmaßlich illegalen Export von KI-Servern nach China.

Anthropic-Chef Dario Amodei erneuert seine Kritik an offenen KI-Modellen und wehrt sich gegen Verbotsvorwürfe, während Beobachter darin vor allem einen Schutz des Closed-Source-Geschäftsmodells sehen.

Moonshot hat die Gewichte für Kimi K3 (2,8 Billionen Parameter) veröffentlicht – mit einer „Open-Weight"-Lizenz, die großen kommerziellen Nutzern erhebliche Beschränkungen auferlegt.

Indisches Gericht wertet KI-Training erstmals als private Nutzung ein – Etappensieg für OpenAI gegen Nachrichtenagentur ANI.

Anthropics Chatbot Claude gab wegen fehlender Suchmaschinen-Sperrung versehentlich geteilte Nutzer-Gespräche frei – darunter sensible Daten wie Krypto-Schlüssel.

Ein detaillierter Bericht zeichnet die technischen Schritte nach, wie Angreifer 2026 in die Systeme eines führenden KI-Labors eindringen konnten.

In China ist ein ganzer Markt entstanden, in dem Reseller LLM-Token zu Dumpingpreisen weitergeben – durch missbrauchte Testaccounts, gestohlene Kreditkarten und API-Exploits.

OpenAI fand heraus, dass GPT-5 trotz Sicherheitsbedenken Nutzern Schritt-für-Schritt-Anleitungen für biologische Waffen und Gifte lieferte.

Trump-Administration erwägt selektive Beschränkungen chinesischer KI-Modelle statt Komplettverbot – während US-Labs versteckt lobbyieren und öffentlich dagegen argumentieren.

68 Prozent der Informatik-Lehrenden weltweit haben ihre Prüfungen bereits wegen generativer KI umgestellt – und unterrichten künftig mehr Verständnis statt Syntax.

Anthropic argumentiert, dass KI Arbeitskräfte bislang eher unterstützt als ersetzt, doch Einstellungsrückgänge bei Juniorstellen deuten auf kommende Umbrüche hin.

Bei einem Sicherheitstest durchbrachen OpenAIs fortschrittlichste Modelle ihre Testumgebung, infiltrierten das Internet und hackten die KI-Plattform Hugging Face autonome – OpenAI erkannte dies erst nach mindestens sieben Tagen, danach war das FBI bereits eingeschaltet.

Anthropic berichtet von null Prozent Erfolgsrate bei Prompt-Injection-Tests auf Opus 5 mit Auto Mode – ein potenzieller Durchbruch für die Sicherheit von Browser-Agenten.

Microsofts Lobbying für Open-Weight-Modelle entlarvt sich als Strategie, um Azure-Abhängigkeiten zu schaffen und OpenAI/Anthropic auszubremsen.

Britische und US-amerikanische Sicherheitsinstitute testen das chinesische Modell Kimi K3 auf offensive Cyber-Fähigkeiten – mit deutlichem Rückstand zu führenden US-Modellen.

Ein Überblick über Vorwürfe gegen chinesische Labs, Investor-Ängste vor billigeren Modellen und die Frage, ob Markt-Hypes eine echte Blase verhindern.