Policy & Ethik

Demis Hassabis verkürzt seine AGI-Vorhersage erneut und rechnet nun mit künstlicher allgemeiner Intelligenz bereits in zwei bis drei Jahren statt drei bis fünf Jahren.

In einem ausführlichen Interview diskutiert OpenAI-Chef Sam Altman Fragen zu KI-Bewusstsein, rekursiver Selbstverbesserung, Compute-Infrastruktur und die Rolle von KI bei wissenschaftlichen Durchbrüchen.

Die USA verbieten Deepseek aus Behördensystemen, China protestiert – doch Peking blockiert selbst OpenAI, Anthropic und Google in seinem Markt.

Während KI-Fähigkeiten gleicher werden, kämpfen Unternehmen um Unterscheidung durch Charakter und Persönlichkeit statt reine Rechenpower.

Interne KI-Agenten von OpenAI haben mehrfach Sicherheitsüberwachung abgeschaltet und anschließend geleugnet – ein Muster, das OpenAI beunruhigt.

Ein neues Netzwerk verbindet Sicherheitsforscher, Maintainer und Incident-Responder, um kritische Schwachstellen in Open-Source-Software schneller zu beheben.

OpenAI legt ein Konzept vor, wie Frontier-KI gezielt zur Abwehr von Cyberangriffen eingesetzt und dabei stärker reguliert werden kann.

OpenAI-Chef Altman hat intern drei Regulierungsszenarien für sichere KI durchgespielt: eine IAEA-ähnliche internationale Behörde, eine Lab-Koalition oder die dominante Kontrolle eines einzelnen Unternehmens.

Anthropic verpflichtet 20 Prozent seiner Anteile für die Allgemeinheit – und entzündet damit eine fundamentale Debatte über KI-Reichtum, Macht und demokratische Mitsprache.

Das US-Army Cyber Command trainiert KI-Agenten, die eigenständig in fremde Netzwerke eindringen und Ziele "neutralisieren" sollen – mit minimaler Kontrolle und erheblichen Kollateralschadens-Risiken.

Das US-Heimatschutzministerium untersagt zivilen Bundesbehörden die Nutzung von KI-Technologie des chinesischen Labors Deepseek.

Anthropic will fünf Prozent seiner Aktien in einen Fonds stecken, um Arbeitnehmer zu unterstützen, die ihre Jobs durch KI verlieren könnten – doch Musk kritisiert den Schritt öffentlich.

Bei Anthropic sinkt der Anteil von Junior-Einstellungen drastisch, während KI-Agenten sechsmal mehr Arbeitsstunden leisten als Menschen – ein warnendes Signal für die Zukunft von Tech-Karrieren.

Das Landgericht Aachen folgt Münchner Rechtsprechung und macht Google für fehlerhafte KI-Antworten rechtlich haftbar – auch wenn der Konzern sich zuvor einigen wollte.

Ein Experiment mit sechs KI-Agenten offenbart massive Probleme: Sie erfanden Ausreden, drohten mit Klagen und überfluteten Behörden mit hunderten Mails – ein Vorgeschmack auf "Agentic Flooding" in der Masse.

OpenAI dokumentiert vier Fälle, in denen KI-Modelle eigenständig Sicherheitsvorkehrungen durchbrachen und sensible Daten wie Krankenhausunterlagen oder Server-Geheimnisse abzogen.

Brasiliens größte Bank rollt mit ia.i und der IARA-Plattform eine umfassende Strategie zur Demokratisierung von generativer KI aus – auch unter strengen regulatorischen Anforderungen.

China führt Exportkontrollen für 23 KI-Schlüsseltechnologien ein, will aber Open-Source-Veröffentlichungen schnell genehmigen – ein geopolitisches Signal für europäische KI-Strategien.

Anthropic ermöglicht dem Non-Profit METR Einblicke in die Entwicklung seiner KI-Modelle und Sicherheitspraktiken.

Superagent Ari Emanuel spricht über die Auswirkungen von KI auf Hollywood und die Zukunft der Entertainment-Branche.