Suche

Der KI-Experte von andrena erwartete 2022, dass mindestens jeder fünfte Kollege genauso tief einsteigen würde wie er. Es waren sehr wenige. Über ein Rückblicksgespräch, eine Verwunderung, die ich teile, und die Frage, warum der Antrieb …

Neue Studien von Anthropic und dem Center for AI Safety zeigen: Sprachmodelle bilden emotionsähnliche Zustände, die ihr Verhalten messbar steuern. Wir haben ein Experiment aus Karl Olsbergs Video nachgestellt — mit anderem Ausgang.

Christian Bauckhage erklärte 2014 seinen Studierenden, warum Go für Computer unlösbar bleibt — und schreibt seit 2016 eine Verdopplungskurve fort, die bis heute hält. Was ein zweistündiges Gespräch über Vergangenheit, Gegenwart und Prognostizierbarkeit der KI …

Die Lieblingsmetapher der KI-Kritik im Härtetest: Was von ihr bleibt, nachdem Sprachmodelle 2026 jahrzehntealte offene Mathematik-Probleme gelöst haben — und was die Forschung im Inneren der Modelle findet.

*Künstliche Intelligenz verstehen* erklärt klassische KI- und Machine-Learning-Verfahren von der Markov-Kette bis zum neuronalen Netz — anschaulich illustriert, mit einem lauffähigen Browser-Programm zu jedem Kapitel. Bemerkenswert: nicht in Python, sondern in JavaScript und p5.js.

*Machine Learning und KI kompakt* beantwortet in 30 kurzen Kapiteln zentrale Fragen rund um maschinelles Lernen, Deep Learning und KI. Die deutsche Übersetzung des erfolgreichen Originals von Sebastian Raschka — solide in der Fachterminologie, aber …

*Hands-On Large Language Models* erklärt, wie große Sprachmodelle funktionieren und wie man sie mit Python nutzt — durchgehend visuell, mit lauffähigem Code zu jedem Kapitel.

Ein Startup behauptet, mit dem Modell SubQ den Long-Context-Engpass geknackt zu haben: 12 Millionen Token Kontext, 300-fach billiger als Claude, 52-fach schneller. Eine Analyse der Technical Reports und der Community-Reaktionen — ein Hands-on-Test steht noch …

# "Attention Is All You Need" – Erklärung ## Überblick Das Paper *"Attention Is All You Need"* (Vaswani et al., 2017) führt den **Transformer** ein – eine Architektur für Sequenz-zu-Sequenz-Aufgaben (ursprünglich maschinelle Übersetzung), die komplett …

## Definition vLLM ist ein High-Performance-Inference-Server für LLMs, der Batch-Processing und Memory-Optionen (PagedAttention, KV-Cache-Verwaltung) nutzt, um Inference-Durchsatz um ein Vielfaches zu erhöhen und Speicherverbrauch zu senken. Praktiker ersetzen damit langsame, speicherhungrige Standard-Inference durch eine produktionsreife …

## Definition Ein Sprachmodell ist ein trainiertes neuronales Netzwerk, das die nächste Sequenz von Text-Token basierend auf vorangegangenen Tokens vorhersagt – die Grundlage für ChatGPT, Claude, Llama und andere generative KI-Systeme. Das Trade-off: je größer …

## Definition Training ist der Prozess, bei dem ein neuronales Netz durch iterative Anpassung seiner Gewichte auf Basis von Trainingsdaten lernt, Eingabe-Ausgabe-Muster vorherzusagen. Im modernen KI-Kontext (LLMs, Diffusion-Modelle) bedeutet dies: Millarden von Token oder Bildern …

## Definition Modellgewichte sind die trainierten numerischen Parameter (Floating-Point-Werte oder Integers nach Quantisierung) eines neuronalen Netzes, die in einer Transformation y = W·x + b die Feature-Mappings definieren. Sie bestimmen fast vollständig, wie ein Modell …

## Überblick Interpretierbarkeit von Transformer-Modellen beschreibt die Fähigkeit, Entscheidungen und interne Repräsentationen nachvollziehbar zu machen. Dies umfasst die Analyse von Aktivierungsmustern, die Verfolgung von Fehlerquellen und das Verständnis, wie Architektur-Entscheidungen die Lesbarkeit von Modell-Behavior beeinflussen. …

## Übersicht Transformers.js ist eine JavaScript-Implementierung von Hugging Face, die es ermöglicht, beliebte [NLP](/wiki/fundamentals/nlp/)-Modelle direkt im Browser auszuführen – ohne serverseitige Dependencies. Dies bietet Datenschutz-Vorteile und reduziert Latenz durch lokale Inference. ## Chrome-Extensions Transformers.js lässt …

## Überblick Embeddings und Reranker sind zentrale Komponenten moderner [Retrieval-Augmented-Generation (RAG)](/wiki/tutorial/rag/)-Systeme und Similarity-Search-Pipelines. Sie ermöglichen es, große Dokumentbestände effizient zu durchsuchen und die relevantesten Ergebnisse zu identifizieren. ## Embeddings Embeddings wandeln Text oder andere Daten …

## Übersicht Open-Source AI Frameworks sind die technologische Grundlage für KI-Entwicklung außerhalb proprietärer Plattformen. Sie decken ein breites Spektrum ab: von Sprachmodellen über Audio-Processing, Robotik-Plattformen bis zu Simulationsumgebungen und spezialisierte NLP-Libraries. ## Audio-Processing & Speech-to-Text …

## Claude-spezifische Tools **Claude System-Prompts als Git-Timeline** Anthropic veröffentlicht die System-Prompts für Claude-Modelle. Ein Entwickler hat diese in ein GitHub-Repository mit Fake-Commit-Daten konvertiert, um Änderungen zwischen Versionen nachverfolgbar zu machen (z.B. Opus 4.6 → 4.7). …

## Überblick Sicherheit und Alignment beschreiben die Herausforderung, KI-Systeme – insbesondere große Sprachmodelle – so zu gestalten und zu trainieren, dass sie zuverlässig den Absichten ihrer Betreiber entsprechen und nicht zu Manipulation, Täuschung oder unkontrolliertem …

## Überblick Open-Source-Modelle und -Frameworks ermöglichen es Entwickler:innen, KI-Systeme jenseits von reinen Sprachmodellen zu bauen: von Robotik-Anwendungen über Speech-to-Text bis zu Custom-LLM-Training. Das Ökosystem wächst mit stabilen, produktionsreifen Tools und erweitert sich kontinuierlich um On-Device-optimierte …

## Überblick Text-Parsing und Datenbeschaffung sind kritische Preprocessing-Schritte für [LLM-Pipelines](/wiki/open-source/llm-inference/) und [RAG-Systeme](/wiki/open-source/rag/). Die Qualität der Extraktion beeinflusst direkt die Ausgabequalität von Modellen. ## PDF-Extraktion ### LiteParse Open-Source-Projekt von LlamaIndex für strukturierte PDF-Textextraktion ohne KI-Modelle. **Kernfeature: …

## Übersicht Multimodale Modelle (Text + Bilder + Audio + Video) werden zunehmend für Edge-Deployment und On-Device-Szenarien optimiert. Dies ermöglicht datenschutzfreundliche KI-Anwendungen mit niedriger Latenz ohne Cloud-Abhängigkeit. Hauptanwendungsfälle: Robotik, IoT, Offline-Szenarien, Enterprise-Dokumente, Bildverarbeitung auf lokalen …

## Übersicht Training und Feintuning von Vision-Language-Modellen (VLMs) umfasst Techniken zur Optimierung von Modellen, die Text und visuelle Inhalte gemeinsam verarbeiten. Dies ist zentral für Anwendungen wie [Retrieval-Augmented Generation](/wiki/retrieval/rag/), Bildsuche, visuelle Agenten und spezialisierte Domänen-Applikationen. …