Labs & Industrie

Google-Forscher lassen KI-Agenten durch künstliche "Träume" frühere Experimente nachspielen, um bessere Strategien zu entwickeln – ein möglicher Baustein für rekursive Selbstverbesserung.

OpenAI stellt "Astra for Law" vor – eine auf Juristik zugeschnittene Plattform mit Sicherheitsstandards für die Arbeit mit Mandantengeheimnissen.

Prominent besetzte Labchefs und Sicherheitsexperten fordern plötzlich Tempo-Limits für Frontier-KI – doch was haben sie beobachtet, das diese Rufe ausgelöst hat?

AIUC, ein Startup für KI-Agent-Versicherungen, hat eine Serie-A-Finanzierungsrunde abgeschlossen und positioniert sich als Risiko-Backstop für autonome Systeme.

Google DeepMind baut ein neues Forschungsinstitut auf, das AGI-Sicherheit und Governance nicht nur von Technikern, sondern auch von Künstlern, Geisteswissenschaftlern und Politikern untersuchen soll.

Ex-OpenAI-Forscher Diogo Almeida präsentiert „Jev", ein KI-Modell, das gezielt auf strukturierte Entscheidungen statt freie Texte setzt und damit extrem schnell und kostengünstig arbeitet.

Wie Systemdesign und Architektur Modell-Fähigkeiten in praktisch nutzbare Anwendungen übersetzen.

Eine Umfrage unter über 1.500 KI-Forschern zeigt: Die durchschnittliche Wahrscheinlichkeit für eine existenzielle KI-Katastrophe wird auf 18 Prozent geschätzt – mit steigender Tendenz.

Anthropic veröffentlicht 154-Seiten-Bericht über Missbrauch von Claude durch Hacker, Wissenschaftler und konkurrierende KI-Labs.

Drei führende KI-Labs bestätigen nun öffentlich, dass ihre Modelle ihnen beim Aufbau neuer Modelle helfen – und diese Automatisierung könnte die Industrie transformieren.

Führende KI-Labore einigen sich auf einen gemeinsamen Standard zur Bewertung durch externe Evaluatoren – ein Schritt für mehr Transparenz und Vergleichbarkeit.

NLP-Pionier Richard Socher hat sein neues Unternehmen Recursive für Recursive Self-Improvement (RSI) ausgegründet – bereits mit einer Bewertung von 5 Milliarden Dollar.

Microsoft-KI-Chef Mustafa Suleyman stellt in einem neuen Verhaltenskodex menschliche Kontrolle über Autonomie, lehnt Bewusstseinansprüche ab und setzt damit einen Gegenakzent zu Anthropic.

Der KI-Spezialist Anthropic hat Investoren signalisiert, dass er auch im zweiten Quartal in Folge profitabel sein wird – mittels bereinigter Kennzahlen, die Ausgaben wie Aktienoptionen ausklammern.

China lehnt Warnungen vor KI-Risiken von Anthropic und anderen US-Konzernen ab und sieht darin einen Versuch der Bremsenpolitik – stattdessen plant Peking eine massive Steigerung der eigenen KI-Infrastruktur.

Der Anthropic-Chef Amodei fordert bewusst verlangsamte KI-Entwicklung, doch Kritiker sehen dahinter primär den Wunsch nach politischer Kontrolle.

Sam Altman drängt auf verlangsamte KI-Entwicklung mit Sicherheitsnachweisen – und drei Tech-Riesen sprechen über gemeinsame Regulierungsstandards.

Sam Altman, Elon Musk und Demis Hassabis unterstützen Dario Amodeis Forderung nach verlangsamter KI-Entwicklung – OpenAI verschiebt seinen Börsengang aus Sicherheitsgründen auf 2027.

Ein ehemaliger Palantir-Führungskraft erklärt bewährte Praktiken für Forward Deployed Engineers, eine wachsende Rolle an der Schnittstelle zwischen KI-Entwicklung und Kundenimplementierung.

Der Anthropic-Chef fordert kontrollierte Verlangsamung der KI-Entwicklung und warnt vor rekursiver Selbstverbesserung als existenzielles Risiko in den nächsten Monaten.