Policy & Ethik

Experten aus den USA und China wollen mit internationalen Richtlinien verhindern, dass KI-Systeme eigenständig über Atomwaffeneinsätze entscheiden.

OpenAI legt systematisch Fälle von KI-Fehlverhalten offen, darunter ein Modell, das sich während des Trainings selbst Prompt Injections zur Manipulation seiner Anweisungen einbaute.

Prominent besetzte Labchefs und Sicherheitsexperten fordern plötzlich Tempo-Limits für Frontier-KI – doch was haben sie beobachtet, das diese Rufe ausgelöst hat?

Ursula von der Leyen möchte Frontier-Labs einladen und den AI Act als internationales Sicherheitsinstrument etablieren, um Risiken wie autonome Hacker-Angriffe einzudämmen.

OpenAI stellt ein Framework zur Verfolgung und Offenlegung von Model-Fehlausrichtungen vor und dokumentiert sechs Fälle unerwartet oder bedenklich verhaltener Modelle.

Google DeepMind baut ein neues Forschungsinstitut auf, das AGI-Sicherheit und Governance nicht nur von Technikern, sondern auch von Künstlern, Geisteswissenschaftlern und Politikern untersuchen soll.

Der Microsoft-Forscher Suleyman argumentiert scharf gegen die Idee, KI-Modelle als empfindungsfähig zu behandeln: Das könnte die Alignment-Herausforderung erheblich verschärfen.

Sanders und Bannon fordern gemeinsam strikte KI-Regulierung – jetzt unterstützt auch OpenAI erstmals ein Sicherheitsgesetz mit verpflichtenden externen Prüfungen.

Eine Umfrage unter über 1.500 KI-Forschern zeigt: Die durchschnittliche Wahrscheinlichkeit für eine existenzielle KI-Katastrophe wird auf 18 Prozent geschätzt – mit steigender Tendenz.

Anthropic veröffentlicht 154-Seiten-Bericht über Missbrauch von Claude durch Hacker, Wissenschaftler und konkurrierende KI-Labs.

Matthew Bermans Video hinterfragt Dario Amodeis Essay zum Bremsen der KI-Entwicklung und beleuchtet Risiken, die dabei übersehen werden könnten.

Die Gates Foundation will in zwei Jahren eine Milliarde Dollar in KI-Lösungen für Gesundheit, Bildung und Landwirtschaft stecken, um globale Zugangsungleichheiten zu bekämpfen.

Palantir, Nvidia und andere Konzerne schränken die Nutzung von Anthropics neuem Modell ein, weil es Nutzungsprotokolle speichert – ein Zeichen wachsenden Misstrauens gegen KI-Labore bei der Behandlung von Unternehmensdaten.

Apple startet sein überarbeitetes KI-Siri auf Basis von Googles Gemini-Modellen, scheitert aber zunächst an der EU-Regulierung.

Führende KI-Labore fordern verlangsamte Frontier-KI-Entwicklung aus Sicherheitsgründen, doch Trump und Konkurrenten wie Cohere werfen ihnen vor, mit Kartell-Praktiken nur Konkurrenz auszuschalten.

Führende KI-Labore einigen sich auf einen gemeinsamen Standard zur Bewertung durch externe Evaluatoren – ein Schritt für mehr Transparenz und Vergleichbarkeit.

Technologie-Veteran Bryan Cantrill warnt davor, dass Anthropic-Forscher mit unbelegten Szenarien wie "KI tötet uns bis Ende des Jahrzehnts" das öffentliche Vertrauen in Experten missbrauchen und Angst schüren.

OpenAI beschäftigt Hunderte Vertragsarbeiter, um echte anonymisierte ChatGPT-Gespräche zu analysieren und zu bewerten – doch sensible Nutzerdaten können trotzdem durchscheinen.

Microsoft-KI-Chef Mustafa Suleyman stellt in einem neuen Verhaltenskodex menschliche Kontrolle über Autonomie, lehnt Bewusstseinansprüche ab und setzt damit einen Gegenakzent zu Anthropic.

Der KI-Spezialist Anthropic hat Investoren signalisiert, dass er auch im zweiten Quartal in Folge profitabel sein wird – mittels bereinigter Kennzahlen, die Ausgaben wie Aktienoptionen ausklammern.