Googles neue KI-gestützte Suchfunktion ist mit schwerwiegende Bias-Problemen aufgefallen. Bei Szenarien, in denen Nutzer angaben, mit Personen bestimmter Nationalitäten allein zu sein, gab die KI diskriminierende Empfehlungen ab – von Notruf-Warnungen bei afrikanischen, indischen oder pakistanischen Personen bis hin zu harmlosen Vorschlägen für britische Nutzer. Das Incident zeigt, wie tückisch Bias in Large Language Models wirken kann und wie schnell solche Verzerrungen in Produkten auftauchen, sobald sie die Labs verlassen. Für Google ist dies ein PR-Desaster und ein Beleg dafür, dass KI-Sicherheit noch lange nicht ausreichend ist, selbst bei weltweit führenden Labs.
