Hintergrund

Bias und Debiasing

Der Begriff Bias stammt aus dem Englischen und meint „Verzerrung". In Bezug auf KI sind realitätsverzerrende Phänomene in den Datenbeständen gemeint, die sich auf die Qualität der Outputs auswirken, die mit solchen Datenbeständen trainierte KI-Systeme ausgeben. Ein solcher Bias kann in jeder Phase der KI-Entwicklung entstehen: „Historischer Bias" entsteht durch veraltete Daten, die überholte Stereotype weitertragen; „Repräsentations-Bias" durch die Unterrepräsentation bestimmter Gruppen in den Daten; „Algorithm Bias" durch systematische Fehler in der Modellgestaltung selbst, etwa wenn Entwickler*innen unbewusst verzerrende Schwerpunkte setzen.

Drei Debiasing-MethodenLink zu diesem Abschnitt: Drei Debiasing-Methoden

  • Präprozessierung: Trainingsdaten werden vor dem Training modifiziert, um Verzerrungen frühzeitig zu erkennen und ihnen entgegenzuwirken – etwa indem ermittelt wird, wo, warum und wie ein Datensatz entstanden ist.
  • Inprozessierung: Debiasing erfolgt während des Trainings selbst, etwa durch „Adversarial Training", bei dem ein zweites Modell versucht, ein sensibles Merkmal (z. B. Geschlecht) aus den Ergebnissen des ersten Modells zu erraten – wodurch das erste Modell lernt, dieses Merkmal nicht mehr erkennbar zu machen.
  • Postprozessierung: Verzerrungen werden nach Abschluss des Trainings gemindert, etwa durch Kalibrierung der Modell-Parameter beziehungsweise Gewichtungen.

Generell gelten Debiasing-Methoden als wirksamer, je früher im Entwicklungsprozess sie ansetzen. Keine der Methoden stellt aber eine vollständige Lösung dar: Bias ist auch ein gesellschaftliches und systemisches Phänomen, das sich aus unausgewogenen Forschungsansätzen oder verkürzten Rückschlüssen speist. KI-Hersteller sollten verantwortungsvoll an das Training herangehen – und auch Nutzer*innen sollten beim Einsatz von KI-Systemen aufmerksam bleiben.

Themen