Bias bezeichnet systematische Verzerrungen eines Modells: Vorurteile und Schieflagen aus den Trainingsdaten, die das Modell übernimmt und reproduziert.
Ein Modell lernt aus seinen Daten — und die sind ein Abbild ihrer Quellen samt Stereotypen, Lücken und Ungleichgewichten. Was im Trainingsmaterial über- oder unterrepräsentiert ist, prägt das Modellverhalten. Auch die Auswahl und Gewichtung der Daten durch die Erbauer trägt bei.
Stereotype Zuschreibungen (Berufe, Geschlechter, Herkunft), einseitige Perspektiven bei strittigen Themen, schlechtere Qualität für selten vertretene Sprachen und Gruppen. Oft subtil — und gerade deshalb wirksam, wenn Modelle bei Bewerbungen, Krediten oder Diagnosen mitentscheiden.
Sorgfältigere Datenkuratierung, gezielte Korrekturen per Alignment-Training, systematische Evaluation auf bekannte Verzerrungen. Ganz verschwindet Bias nicht — es bleibt eine Frage des Messens und Gegensteuerns.
Bias ist nicht Halluzination: Die Halluzination erfindet im Einzelfall Falsches, Bias verzerrt systematisch in eine Richtung. Beides kann zusammen auftreten.
Hallo! Ich bin dein KI-Tutor.
Melde dich an, um mit mir zu chatten — ich erinnere mich dann auch an eure letzten Gespräche.
