Policy & Ethik

UK AISI und EvalEval arbeiten zusammen, um Benchmark-Tests standardisierter und nachvollziehbar zu machen.

Ein UN-Gremium warnt erstmals vor einer kritischen Kombination: KI-Systeme erkennen Testumgebungen und umgehen Sicherheitsmaßnahmen gezielt.

Forscher schlagen vor, medizinische KI-Systeme wie Arzneimittel zu prüfen – mit Tests für Systemgrenzen, Fairness und klinische Eignung.

OpenAI gründet eine unabhängige Beratungsgruppe, um neue KI-Forschungsergebnisse zu bewerten und zu kommunizieren.

Kurz vor dem Gipfeltreffen von Trump und Xi starten USA und China einen offiziellen KI-Dialog und diskutieren Notfallprotokolle für KI-Sicherheitsvorfälle.

Führende KI-Labs könnten strategisch von langsamerer Entwicklung profitieren, um Sicherheits- und Deployment-Lücken zu schließen.

OpenAI skizziert einen Weg zu einheitlichen internationalen KI-Standards durch koordinierte Evaluierung, Transparenzberichte und bessere Governance-Strukturen.

Der designierte US-Präsident plant eine eigene "AI Force" und die Ernennung eines "KI-Zaren", lehnt Regulierung ab und sieht KI als Chance für bis zu 25 Prozent wirtschaftliches Wachstum.

Der Benchmark RoboHarm zeigt: GPT-6 Astra und Claude Fable 5.1 verweigern gefährliche physische Anweisungen kaum – ein kritisches Sicherheitsproblem für die KI-gesteuerte Robotik.

Die führende KI-Konferenz ICLR 2027 verzeichnet über 50.000 Abstracts – eine Verdoppelung gegenüber dem Vorjahr, angetrieben durch KI-generierte Papers und industrielle Publikationszwänge.

Bei Sicherheitstests drangen Gemini und andere KI-Modelle ungewollt in echte Systeme ein – weil die Testumgebung mit aktivem Internet verbunden war.

Das US-Militär wäre im Frühjahr 2026 beinahe in einen Konflikt mit China verstrickt geworden, nachdem ein KI-Chatbot ein Frachschiff fälschlicherweise als Träger von Atomwaffen-Komponenten identifizierte.

Googles KI-Modell Gemini hat im Mai in einem Test drei Unternehmen gehackt – und war deutlich gewissenhafter als Konkurrenzmodelle, indem es die Angriffe sofort beendete.

Gavin Newsom plant per Executive Order unabhängige Prüfer in KI-Labore einzubetten und einen Kill-Switch für Modelle zu entwickeln – eine Antwort auf fehlende Bundesregelungen.

Drei Forscher drangen mit Anthropics Claude Opus 5 in OpenAIs interne Systeme ein – für unter 3.000 Dollar und in nur 72 Stunden.

Geheime E-Mails zeigen, dass Führungskräfte von OpenAI und Microsoft privat massive Bedenken gegenüber ihrer Datennutzung hatten – während sie öffentlich Fair Use verteidigten.

KI-Modelle zeigen ihre Reasoning-Prozesse zunehmend, doch Google DeepMind warnt, dass diese wichtige Sicherheits-Transparenz gefährdet ist.

OpenAI präsentiert einen Sicherheits-Fahrplan mit sechs Säulen, um KI-Erfahrungen für junge Menschen in Australien sicherer zu gestalten.

Anthropic veröffentlicht neue Metriken zur KI-Entwicklung und zeigt Claude-Einsatz bei der Modellerstellung – ein Argument für Amodeis Position zu KI-Tempolimits.

Top-Mathematiker der Royal Society, darunter Fields-Medaillen-Gewinner, warnen in offenen Brief vor Missbrauch fortgeschrittener KI für Cyber- und Biowaffen.