Glossar

Debiasing

Systematisches Korrigieren von Verzerrungen (Bias) in Trainingsdaten oder KI-Modellen.

Debiasing bezeichnet Methoden, um entdeckte oder wahrscheinliche Verzerrungen in KI-Systemen zu korrigieren. Man unterscheidet Präprozessierung (Bereinigung der Trainingsdaten vor dem Training), Inprozessierung (Anpassung des Trainingsverfahrens selbst, etwa durch Adversarial Training) und Postprozessierung (nachträgliche Kalibrierung des fertigen Modells). Je früher im Entwicklungsprozess angesetzt wird, desto wirksamer gilt die Methode – eine vollständige Lösung stellt aber keine der Methoden dar, da Bias auch gesellschaftliche Ursachen hat.

← Glossar