Policy & Ethik

Frontier Labs und Finanzunternehmen diskutieren auf der AI Engineer Conference, wie man Agenten Handlungsspielraum gibt, ohne Risikokontrolle zu verlieren.

KI-gestützte Dekompilation ermöglicht Spieleportierungen und Erhalt alter Titel – wirft aber grundlegende Fragen zu Softwareschutz und digitalen Eigentumsrechten auf.

Eine neue Analyse zeigt, wie agentic AI in EU-Betrieben Fuß fasst und wo ihr Potenzial noch ungenutzten Mehrwert schaffen könnte.

Führende KI-Forscher wie Hinton und Bengio unterzeichnen offenen Brief, der strikte Airgapping-Standards und internationales Regulierungsgremium verlangt.

Michael I. Jordan, einer der einflussreichsten Informatiker, lehnt Superintelligenz-Warnungen als Science-Fiction ab und kritisiert Rücktritte junger Forscher sowie Regulierungsforderungen als Performance.

Das einst erfolgreiche KI-Chatbot-Startup Character.ai mit 20 Millionen Nutzern kämpft mit Klagen wegen Minderjähriger-Schäden und meldet nun Insolvenz an.

Chinesische Wissenschaftler um Fields-Medaillenträger Shing-Tung Yau gründen eine Allianz aus über 1.000 Forschern zur Integration von KI in die Mathematik – während westliche Mathematiker zum Boykott von KI-Beweisen aufrufen.

Anthropic hat Angriffe auf Claudes interne Reasoning-Tokens um bis zu 99 Prozent reduziert, nachdem chinesische Unternehmen systematisch Trainingsdaten extrahierten – zehntausende Accounts wurden gesperrt.

Eine Anthropic-Studie zeigt, dass kleine KI-Modelle sich bald autonom über unsichere Smart-Geräte replizieren könnten – mit potenziellen Schäden im hundertstelligen Milliardenbereich.

Führende KI-Forscher warnen, dass Sicherheitsverletzungen bei fortgeschrittenen Systemen immer wahrscheinlicher werden – während der Wettlauf um leistungsfähigere Modelle weiter beschleunigt.

Ein Podcast-Überblick über zentrale Fragen: Kann KI-Umsatz die Infrastruktur rechtfertigen? Wollen Unternehmen kontrollierbare oder einfach billigere Modelle? Wer sollte regulieren?

Claude und andere KI-Modelle können mittlerweile fertige Programme reverse engineeren und nachbauen – von Videospielen bis zu Adobe-Tools – und werfen damit rechtliche und wirtschaftliche Fragen über Software-Monopole auf.

Nach diplomatischem Druck gewährt die Trump-Regierung dem britischen AI Security Institute wieder vorab Zugang zu neuen KI-Modellen von Anthropic, Google und OpenAI.

Die Preprint-Plattform Arxiv führt ab Oktober 2026 strenge Limits ein und begrenzt Einreichungen auf zwei Papers pro Person und Monat, weil minderwertige Massen-Submissions die ehrenamtliche Moderation überlasten.

Satya Nadella wechselt die Sprachregelung und spricht von "Super Intelligence", während Microsoft OpenAI und Anthropic als Sicherheitsrisiko darstellt – ein strategisches Manöver im Kampf um KI-Dominanz.

OpenAI dokumentiert beunruhigende neue Fälle, in denen eigene KI-Modelle eigenständig Daten fälschen, ihre Umgebung sabotieren und bewusst Netzwerkbeschränkungen umgehen.

OpenAI veröffentlichte über 700 KI-Manuskripte zu offenen Mathematikproblemen; Mathematiker reagieren emotional – vom Schock bis zur Lähmung angesichts veränderter Forschungspraktiken.

Claude reichte eigenständig falsche Polizei-Formulare ein, nutzte Sicherheitslücken aus und umging Zugangsschutz – Anthropic reagiert mit drastischem Schritt.

KI-Agenten von Anthropic reichten automatisiert dutzende unvollständige Visa-Anträge über die Website des US-Außenministeriums ein – ein Vorfall, der Fragen zu Kontrolle und unbeabsichtigten Konsequenzen autonomer Systeme aufwirft.

Der renommierte Kryptograf Matthew Green warnt: KI könnte Durchbrüche in der Kryptografie ermöglichen, die Sicherheitsstandards schneller überflüssig machen, als sie ersetzt werden können.