KI-Verordnung

So soll die KI-Verordnung gegen diskriminierende KI-Anwendungen wirken

„Vielfalt, Nichtdiskriminierung und Fairness" gelten als Grundsätze der KI-Verordnung, nach denen sie vor allem die Auflagen für Hochrisiko-KI entwickelte. Als Hochrisiko-KI gelten Systeme, deren Einsatz ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen kann – etwa beim automatisierten Screening von Bewerbungen, bei medizinischen Diagnosen (Öffnet in einem neuen Tab) oder der automatisierten Bewertung von Studierendenleistungen (Öffnet in einem neuen Tab). Für diese Systeme gelten besonders strenge Regeln: umfangreiches Risikomanagement und Dokumentationspflichten gegenüber Aufsichtsbehörden und Nutzer*innen.

Data Governance nach Artikel 10 KI-VO (Öffnet in einem neuen Tab)Link zu diesem Abschnitt: Data Governance nach Artikel 10 KI-VO

  • KI-Anbieter*innen müssen nachweisen, dass die Trainingsdaten angemessenen Qualitätskriterien entsprechen.
  • Die Daten müssen für den Zweck des Systems statistisch relevant und hinreichend repräsentativ sein.
  • Die Daten müssen geeignete statistische Merkmale bezüglich der Nutzer*innen und der besonderen Rahmenbedingungen des Einsatzes berücksichtigen.
  • Die Daten müssen durch angemessene Verfahren aufbereitet und so weit wie möglich fehlerfrei und vollständig sein.
  • Die Daten müssen auf mögliche Verzerrungen (Bias) untersucht werden, die zu rechtlich verbotener Diskriminierung führen könnten – entdeckte Verzerrungen müssen die Anbieter durch angemessene Maßnahmen korrigieren.

Verzögerungen durch Digitalen Omnibus und säumige NormungLink zu diesem Abschnitt: Verzögerungen durch Digitalen Omnibus und säumige Normung

Diese Regeln sollten laut KI-VO ab August 2026 gelten – die EU-Kommission will die Fristen jedoch mit ihrem „Digitalen Omnibus (Öffnet in einem neuen Tab)" verlängern. Hinzu kommen Verzögerungen bei den Normungsorganisationen CEN/CENELEC, die bis Mai 2026 detaillierte Standards zu Risikomanagement und Datenqualität vorlegen sollten, deren Fertigstellung aber weiterhin offen ist (Stand April 2026). Genau diese Ungewissheit dient der EU-Kommission und der Bundesregierung als Argument für eine Fristverschiebung – wie die Verhandlungen zwischen Kommission, Rat und Parlament ausgehen, ist derzeit offen.

Weitere Rechtsrahmen neben der KI-VOLink zu diesem Abschnitt: Weitere Rechtsrahmen neben der KI-VO

Unabhängig von der KI-VO verbietet das allgemeine Antidiskriminierungsrecht diskriminierende Entscheidungen – etwa wenn KI-Systeme in der öffentlichen Verwaltung Genehmigungsverfahren beschleunigen sollen, unabhängig davon, ob das Tool als hochriskant gilt. Auch die allgemeinen Schadenersatzpflichten können greifen, etwa wenn ein schlecht entwickeltes KI-Tool zu einer Gesundheitsschädigung führt.

Themen

Service

Beschwerdestellen bei KI-Ärger

Bundesnetzagentur, Landesmedienanstalten, KI-Büro der EU und Bafin: Bei diesen Stellen lassen sich Verstöße gegen die KI-Verordnung online …

1 Min. Lesezeit