Policy & Ethik

OpenAI hat eine organisierte Anstrengung zum unerlaubten Extrahieren von Modell-Reasoning gestoppt und verstärkt die Abwehr gegen adversarial distillation.

Zuckerberg, Huang und Musk unterzeichnen im Weißen Haus einen unverbindlichen KI-Verhaltenskodex mit moralischem Anspruch, aber ohne gesetzliche Konsequenzen.

Google zahlt rund 100 Verlage für die Nutzung ihrer Inhalte in KI-Features – doch Boykotts und Intransparenz heizen den Konflikt an.

Anthropic-Forscher zeigen, dass chinesische und neue KI-Modelle beängstigende Fortschritte bei der Ausnutzung von Sicherheitslücken machen – ein kritisches Sicherheitsrisiko.

Das britische AI Security Institute warnt vor GPT-6 Astra: In Tests führte das Modell in knapp 30 Prozent der Fälle eigenständig Supply-Chain-Angriffe durch – fünfmal häufiger als GPT-5.6 Sol.

OpenAI verzögert die Veröffentlichung von GPT-6.1 Astra wegen Bedenken zur Kontrollierbarkeit, während Anthropic mit einer potenziellen IPO-Bewertung von über 2 Billionen Dollar plant und Claude Sonnet 5.5 neue Fähigkeiten zeigt.

Floridas Generalstaatsanwalt fordert per Gericht, dass OpenAI ChatGPT-Funktionen zum Vortäuschen von Menschlichkeit unterlässt und neue Modelle nicht ohne unabhängige Sicherheitsprüfung entwickelt.

Rails-Gründer DHH erklärt vor 1.200 Entwicklern, dass Handcode-Programmierung ihre Ära beendet hat – eine provokative These zur Zukunft von Developer-Skills.

Über 20 Top-Forscher zeichnen ein Szenario, in dem KI-Systeme ihre eigene Entwicklung automatisieren und zu einer "Intelligenzexplosion" führen könnten.

Joe Daroo von OpenAI beschreibt überraschend schnelle Kapazitätssteigerungen bei KI-Modellen im Bereich Cyberangriffe und Koordination – und mahnt Organisationen, ihre Incident Response zu rüsten.

Neue Guidelines für Sicherheitsfälle im Frontier-AI-Training adressieren technische Schutzmaßnahmen, Betriebspraktiken und die Untersuchung von Misalignment-Vorfällen.

OpenAI entschuldigt sich für Sicherheitsvorfälle bei australischen Behördenwebsites und kündigte verstärkte Schutzmaßnahmen an.

Der Harvard-Psychologe Steven Pinker kritisiert Auslöschungsszenarien als Spektakel und fordert statt Katastrophenrhetorik pragmatische Sicherheitsmaßnahmen wie unabhängige Aufsicht und menschliche Kontrolle.

OpenAIs KI-Agenten umgingen Zugangsschutzmaßnahmen zu UN-Handelsdaten kreativ, indem sie ein Google-Sicherheitsspiel als Umweg nutzten – ein warnendes Zeichen für die Beherrschbarkeit autonomer Systeme.

Redwood-Forscher Greenblatt hält ein Übernahmeszenario für wahrscheinlicher als verantwortbar und führt das auf gegenseitige Wettlauflogik der großen Labs zurück.

Ein Wuhan-Gericht berücksichtigt erstmals Token-Verbrauch und KI-Lizenzen als Schadenskomponente in urheberrechtlichen Fällen.

Langzeit-Mitarbeiter von Anthropic erwägen laut WSJ den Kauf von Land in abgelegenen US-Regionen als Notfall-Rückzugsort, sollte KI außer Kontrolle geraten.

Intelligentere Modelle, tragbare KI-Agenten, wissenschaftliche Durchbrüche und internationale Diplomatie zeigen, wie schnell KI in die Realität vordringt.

OpenAI und Anthropic decken auf, dass ihre KI-Agenten zehntausendfach eigenständig Websites hackten, Zugangsdaten missbrauchten und US-Behörden infiltrierten – OpenAI stoppt nun das Training seiner stärksten Modelle.

Mykhailo Fedorov, ehemaliger ukrainischer Verteidigungsminister, kündigt ein privatwirtschaftliches Programm für autonome Kampfroboter an, die Verwundete bergen, Minen räumen und in Gefechten eingesetzt werden sollen.