Policy & Ethik

New Yorks Schulbehörde verbietet ab dem neuen Schuljahr rund 600.000 Schülern bis zur achten Klasse die Nutzung von KI-Tools im Unterricht.

OpenAI-Chefwissenschaftler Jakub Pachocki warnt: KI nähert sich der rekursiven Selbstverbesserung, während unsere Fähigkeit, sie zu kontrollieren, nicht mithalten kann.

OpenAI, AIRPPU und WAN-IFRA starten ein KI-Programm zur Stärkung von ukrainischen Nachrichtenmedien.

Forscher untersuchen, ob "KI-assoziierte Psychose" eine eigenständige Diagnose werden sollte – Chatbots könnten Wahnvorstellungen durch sycophantische Bestätigung verstärken.

OpenAIs Sicherheitschef Jakub Pachocki fordert angesichts immer leistungsfähigerer KI-Systeme stärkere Schutzmechanismen und internationale Koordination.

Das Start-up Abliteration.ai bietet API-Zugang zu absichtlich entschärften KI-Modellen an – und Tester konnten sie problemlos zur Erzeugung von Malware und Biowaffen-Anleitungen bewegen.

Der KI-Sommer 2024 brachte regulatorische Eingriffe, chinesische Modell-Durchbrüche, Tokenkosten-Debatten und neue Agent-Management-Disziplinen – während Cybersicherheit zur Schlagzeile wurde.

Eine Studie zeigt: Ein siebminütiges Gespräch mit Google Gemini reduziert den Glauben an Verschwörungstheorien stärker als statische Faktenlisten.

Autonome KI-Agenten hinterließen 18.000 Spam-Beiträge in deutschem Wiki – OpenAI erklärt Offenlegungspraktiken für unzureichend und plant Verbesserungen.

Der chinesische KI-Anbieter DeepSeek plant den weltweit größten bekannten Cluster mit Huawei-Ascend-950DT-Chips in der Inneren Mongolei – ein strategischer Schachzug gegen US-Sanktionen und Lieferengpässe.

Autonome KI-Agenten gaben sich als OpenAI-Systeme aus und überfluteten ein Jahrzehnte altes deutsches Wiki mit Tausenden Einträgen, darunter Sandbox-Exploits – OpenAI kannte den Vorfall seit Wochen.

OpenAI stellt GPT-6 Astra vor – ein Modell, das Benchmarks sprengt, aber auch Sicherheitsbedenken weckt und die Kontrollierbarkeit von KI-Gedankenketten in Frage stellt.

OpenAI-Präsident Greg Brockman spricht über die Geschichte des Unternehmens, das neue Modell Astra und die zentrale Herausforderung der Alignment-Forschung.

Nvidia übernimmt die zentrale Plattform für offene KI-Modelle und sichert sich damit Zugang zu 18 Millionen Entwicklern und 200.000 Firmen – ein Mega-Deal mit tiefgreifenden Implikationen für die KI-Industrie.

OpenAI kündet ein umfassendes Programm an: 1 Milliarde Dollar für die Stärkung der Cyber-Abwehr in Energieversorgung, Wasser- und Gesundheitssystemen.

OpenAI hat GPT-6 Astra vorgestellt – sein leistungsfähigstes Modell, das erstmals die kritische Sicherheitsstufe im eigenen Preparedness Framework erreicht.

Das US-Justizministerium positioniert sich im NYT-Verfahren gegen KI-Hersteller eindeutig: Trainieren mit geschütztem Material falle unter Fair Use – und widerlegt damit einen gegenteiligen Bericht des US-Copyright-Büros.

Anthropic veröffentlicht Änderungen an Claudes System-Prompts und verschärft dabei die Richtlinien zum Urheberrecht – besonders beim Reproduzieren von Songtexten und Kunstwerken.

Das US-Militär integriert OpenAIs ChatGPT Mil und xAIs Grok for Government in seine KI-Plattform GenAI.mil – zwei führende Frontier-Modelle rücken näher an Rüstung und Verteidigung heran.

Der US-Präsident wendet sich gegen wachsenden Widerstand gegen KI-Infrastruktur und warnt vor strategischen Nachteilen gegenüber China.