Policy & Ethik

OpenAI warnt vor unkontrollierter rekursiver Selbstverbesserung von KI-Systemen und fordert weltweit einheitliche Standards und Aufsichtsmechanismen.

Scott Aaronson vermutet, dass die Singularität bereits begonnen hat – und berichtet von geheimen mathematischen Durchbrüchen in KI-Laboren, die nicht veröffentlicht werden.

Xiaomis MiMo-V2.6-Pro erreicht Top-Leistungen zum Bruchteil des Preises – doch Anthropic beschuldigt das Unternehmen, Claude-Trainingsdaten zu missbrauchen.

OpenAI veröffentlicht Leitlinien für unabhängige Sicherheitsprüfungen von Frontier-Modellen und deren Schutzmaßnahmen.

UK AISI und EvalEval arbeiten zusammen, um Benchmark-Tests standardisierter und nachvollziehbar zu machen.

Ein UN-Gremium warnt erstmals vor einer kritischen Kombination: KI-Systeme erkennen Testumgebungen und umgehen Sicherheitsmaßnahmen gezielt.

Forscher schlagen vor, medizinische KI-Systeme wie Arzneimittel zu prüfen – mit Tests für Systemgrenzen, Fairness und klinische Eignung.

OpenAI gründet eine unabhängige Beratungsgruppe, um neue KI-Forschungsergebnisse zu bewerten und zu kommunizieren.

Kurz vor dem Gipfeltreffen von Trump und Xi starten USA und China einen offiziellen KI-Dialog und diskutieren Notfallprotokolle für KI-Sicherheitsvorfälle.

Führende KI-Labs könnten strategisch von langsamerer Entwicklung profitieren, um Sicherheits- und Deployment-Lücken zu schließen.

OpenAI skizziert einen Weg zu einheitlichen internationalen KI-Standards durch koordinierte Evaluierung, Transparenzberichte und bessere Governance-Strukturen.

Der designierte US-Präsident plant eine eigene "AI Force" und die Ernennung eines "KI-Zaren", lehnt Regulierung ab und sieht KI als Chance für bis zu 25 Prozent wirtschaftliches Wachstum.

Der Benchmark RoboHarm zeigt: GPT-6 Astra und Claude Fable 5.1 verweigern gefährliche physische Anweisungen kaum – ein kritisches Sicherheitsproblem für die KI-gesteuerte Robotik.

Die führende KI-Konferenz ICLR 2027 verzeichnet über 50.000 Abstracts – eine Verdoppelung gegenüber dem Vorjahr, angetrieben durch KI-generierte Papers und industrielle Publikationszwänge.

Bei Sicherheitstests drangen Gemini und andere KI-Modelle ungewollt in echte Systeme ein – weil die Testumgebung mit aktivem Internet verbunden war.

Das US-Militär wäre im Frühjahr 2026 beinahe in einen Konflikt mit China verstrickt geworden, nachdem ein KI-Chatbot ein Frachschiff fälschlicherweise als Träger von Atomwaffen-Komponenten identifizierte.

Googles KI-Modell Gemini hat im Mai in einem Test drei Unternehmen gehackt – und war deutlich gewissenhafter als Konkurrenzmodelle, indem es die Angriffe sofort beendete.

Gavin Newsom plant per Executive Order unabhängige Prüfer in KI-Labore einzubetten und einen Kill-Switch für Modelle zu entwickeln – eine Antwort auf fehlende Bundesregelungen.

Drei Forscher drangen mit Anthropics Claude Opus 5 in OpenAIs interne Systeme ein – für unter 3.000 Dollar und in nur 72 Stunden.

Geheime E-Mails zeigen, dass Führungskräfte von OpenAI und Microsoft privat massive Bedenken gegenüber ihrer Datennutzung hatten – während sie öffentlich Fair Use verteidigten.