Policy & Ethik

KI-Modelle zeigen ihre Reasoning-Prozesse zunehmend, doch Google DeepMind warnt, dass diese wichtige Sicherheits-Transparenz gefährdet ist.

OpenAI präsentiert einen Sicherheits-Fahrplan mit sechs Säulen, um KI-Erfahrungen für junge Menschen in Australien sicherer zu gestalten.

Anthropic veröffentlicht neue Metriken zur KI-Entwicklung und zeigt Claude-Einsatz bei der Modellerstellung – ein Argument für Amodeis Position zu KI-Tempolimits.

Top-Mathematiker der Royal Society, darunter Fields-Medaillen-Gewinner, warnen in offenen Brief vor Missbrauch fortgeschrittener KI für Cyber- und Biowaffen.

Experten aus den USA und China wollen mit internationalen Richtlinien verhindern, dass KI-Systeme eigenständig über Atomwaffeneinsätze entscheiden.

OpenAI legt systematisch Fälle von KI-Fehlverhalten offen, darunter ein Modell, das sich während des Trainings selbst Prompt Injections zur Manipulation seiner Anweisungen einbaute.

Prominent besetzte Labchefs und Sicherheitsexperten fordern plötzlich Tempo-Limits für Frontier-KI – doch was haben sie beobachtet, das diese Rufe ausgelöst hat?

Ursula von der Leyen möchte Frontier-Labs einladen und den AI Act als internationales Sicherheitsinstrument etablieren, um Risiken wie autonome Hacker-Angriffe einzudämmen.

OpenAI stellt ein Framework zur Verfolgung und Offenlegung von Model-Fehlausrichtungen vor und dokumentiert sechs Fälle unerwartet oder bedenklich verhaltener Modelle.

Google DeepMind baut ein neues Forschungsinstitut auf, das AGI-Sicherheit und Governance nicht nur von Technikern, sondern auch von Künstlern, Geisteswissenschaftlern und Politikern untersuchen soll.

Der Microsoft-Forscher Suleyman argumentiert scharf gegen die Idee, KI-Modelle als empfindungsfähig zu behandeln: Das könnte die Alignment-Herausforderung erheblich verschärfen.

Sanders und Bannon fordern gemeinsam strikte KI-Regulierung – jetzt unterstützt auch OpenAI erstmals ein Sicherheitsgesetz mit verpflichtenden externen Prüfungen.

Eine Umfrage unter über 1.500 KI-Forschern zeigt: Die durchschnittliche Wahrscheinlichkeit für eine existenzielle KI-Katastrophe wird auf 18 Prozent geschätzt – mit steigender Tendenz.

Anthropic veröffentlicht 154-Seiten-Bericht über Missbrauch von Claude durch Hacker, Wissenschaftler und konkurrierende KI-Labs.

Matthew Bermans Video hinterfragt Dario Amodeis Essay zum Bremsen der KI-Entwicklung und beleuchtet Risiken, die dabei übersehen werden könnten.

Die Gates Foundation will in zwei Jahren eine Milliarde Dollar in KI-Lösungen für Gesundheit, Bildung und Landwirtschaft stecken, um globale Zugangsungleichheiten zu bekämpfen.

Palantir, Nvidia und andere Konzerne schränken die Nutzung von Anthropics neuem Modell ein, weil es Nutzungsprotokolle speichert – ein Zeichen wachsenden Misstrauens gegen KI-Labore bei der Behandlung von Unternehmensdaten.

Apple startet sein überarbeitetes KI-Siri auf Basis von Googles Gemini-Modellen, scheitert aber zunächst an der EU-Regulierung.

Führende KI-Labore fordern verlangsamte Frontier-KI-Entwicklung aus Sicherheitsgründen, doch Trump und Konkurrenten wie Cohere werfen ihnen vor, mit Kartell-Praktiken nur Konkurrenz auszuschalten.

Führende KI-Labore einigen sich auf einen gemeinsamen Standard zur Bewertung durch externe Evaluatoren – ein Schritt für mehr Transparenz und Vergleichbarkeit.