Gesetzlich verankert: Gleichbehandlung und keine Diskriminierungen
Antidiskriminierungsrecht und KI
Das gesetzliche Antidiskriminierungsrecht gilt bereichs- und branchenübergreifend – die daraus abgeleiteten Regeln unterscheiden sich jedoch erheblich zwischen öffentlicher Verwaltung und privaten Akteuren. KI-Systeme schaffen in beiden Bereichen neue Diskriminierungsrisiken.
Vorgaben für die öffentliche VerwaltungLink zu diesem Abschnitt: Vorgaben für die öffentliche Verwaltung
Im Grundgesetz ist der Allgemeine Gleichheitssatz (Öffnet in einem neuen Tab) verankert: Er verpflichtet Staat und Behörden, wesentlich Gleiches nicht ungleich zu behandeln – eine Ungleichbehandlung wegen Merkmalen wie Geschlecht, Sprache oder Glauben ist verboten (Ausnahmen wie Geschlechterquoten zur Beseitigung bestehender Nachteile (Öffnet in einem neuen Tab) bleiben möglich). Bund und Länder haben dies in eigenen Antidiskriminierungsgesetzen (Öffnet in einem neuen Tab) weiterentwickelt, etwa um Merkmale wie „Alter" oder „sozialer Status".
Für den KI-Einsatz bedeutet das einen ungeschriebenen Arbeitsauftrag: Behörden müssen den Einsatzzweck von KI-Systemen klar definieren, Trainingsdaten auf Verzerrungen prüfen, Entwicklungsschritte dokumentieren und auch Drittanbieter zur Einhaltung der Vorgaben verpflichten. Diese Pflichten ähneln stark denen, die die KI-Verordnung für Hochrisiko-KI-Systeme vorsieht.
Proxy-Diskriminierung als besondere HerausforderungLink zu diesem Abschnitt: Proxy-Diskriminierung als besondere Herausforderung
Eine spezifische Gefahr sind sogenannte Proxy-Diskriminierungen: KI-Systeme werden mit unverdächtig wirkenden Daten trainiert und knüpfen Entscheidungen an vermeintlich neutrale Merkmale wie Wohnort oder Beruf – die aber statistisch mit sensiblen Kriterien wie sozialem Status oder Religion verknüpft sein können. Das Ergebnis: systematische, oft lange unbemerkte Ungleichbehandlung. Bisher verbieten nicht alle Antidiskriminierungsgesetze von Bund und Ländern solche Proxy-Diskriminierungen ausdrücklich.
Das Allgemeine Gleichbehandlungsgesetz und seine GrenzenLink zu diesem Abschnitt: Das Allgemeine Gleichbehandlungsgesetz und seine Grenzen
Für nichtstaatliche Akteur*innen ist das Allgemeine Gleichbehandlungsgesetz (AGG) (Öffnet in einem neuen Tab) die wichtigste Grundlage – es gilt aber nur für bestimmte Lebensbereiche wie das Arbeitsleben, digitale Massengeschäfte und Versicherungsverträge. In vielen alltäglichen Bereichen mit intensiver Datenverarbeitung, etwa Scoring und Profilbildung im Marketing, greift das AGG dagegen nicht – eine Regelungslücke, die die KI-Verordnung mit ihren Data-Governance-Pflichten für Hochrisiko-KI zumindest teilweise schließen soll.
Forschende, Aufsichtsstellen und die Bundesregierung (Öffnet in einem neuen Tab) fordern eine AGG-Reform, unter anderem mit einer Beweislastverschiebung zugunsten potenziell Betroffener (Öffnet in einem neuen Tab): Unternehmen müssten dann beweisen, dass ihr KI-Tool keine Diskriminierung vorgenommen hat. Zudem sollen Antidiskriminierungsstellen künftig stärker in die KI-Aufsicht eingebunden werden – als Vorbild dient etwa das „Handlungsfeld algorithmenbasierte Diskriminierung (Öffnet in einem neuen Tab)" der Antidiskriminierungsstelle Berlin.
Artikel teilen
Diesen Beitrag zitieren
iRights.Lab GmbH (2026): „Gesetzlich verankert: Gleichbehandlung und keine Diskriminierungen“. In: prompt/, Ausgabe April 2026. https://prompt.irights-lab.de/ausgaben/2026-04/monatsthema-gleichbehandlung-diskriminierung (abgerufen am 21.11.2026)
Bitte passen Sie das Abrufdatum an, falls Sie den Beitrag an einem anderen Tag gelesen haben.