Glossar

Proxy-Diskriminierung

Diskriminierung durch scheinbar neutrale Merkmale (z. B. Wohnort), die statistisch mit geschützten Merkmalen korrelieren.

Proxy-Diskriminierung entsteht, wenn ein KI-System Entscheidungen an vermeintlich neutrale Merkmale wie Wohnort oder Beruf knüpft, diese aber in den Trainingsdaten statistisch mit sensiblen Kriterien wie sozialem Status, Alter oder Religion verknüpft sind. Das System diskriminiert dann systematisch, ohne formal auf ein geschütztes Merkmal zuzugreifen – wodurch solche Diskriminierungen oft lange unbemerkt bleiben. Nicht alle Antidiskriminierungsgesetze von Bund und Ländern verbieten Proxy-Diskriminierung bislang ausdrücklich.

← Glossar