Glossar

Bias (KI-Verzerrung)

Realitätsverzerrendes Phänomen in Trainingsdaten oder Algorithmen, das die Qualität und Fairness von KI-Outputs beeinträchtigt.

Bias bezeichnet Verzerrungen in Datenbeständen oder Algorithmen, die sich auf die Qualität von KI-Outputs auswirken. Man unterscheidet unter anderem historischen Bias (veraltete, überholte Daten), Repräsentations-Bias (Unterrepräsentation bestimmter Gruppen) und Algorithm Bias (systematische Fehler durch die Modellgestaltung selbst). Bias kann in jeder Phase der KI-Entwicklung entstehen und ist teils auch ein gesellschaftliches, systemisches Phänomen, das sich nicht rein technisch beheben lässt.

← Glossar