April 2026
Ausgabe April 2026
Liebe Leser*innen,
ein KI-gestützter Passbildautomat, der Schwarze Menschen nicht erkennt; Frauen, die bei KI-unterstützten Bewerbungsverfahren benachteiligt werden; Fehler bei der KI-basierten Verwaltung von Sozialleistungen: die Liste von Fällen, in denen der Einsatz von KI-Systemen zu Diskriminierung führt, ist lang.
Und es kommen immer wieder neue Fälle hinzu. Woran liegt das? Vereinfacht gesagt: Wird ein Sprachmodell mit Müll trainiert, wird es auch Müll ausgeben. Gemeint sind Datenbestände, die Verzerrungen enthalten, etwa weil sie bestimmte gesellschaftliche Gruppen unterrepräsentieren. Dagegen lässt sich etwas tun – Methoden dazu gibt es bereits, wir nennen die Bekanntesten.
Wenn diese aber nicht genutzt werden – oder nichts nützen – sollen Gesetze und Regelungen greifen, um Menschen vor Diskriminierung durch maschinell unterstütztes oder (teil-)automatisiertes Vorgehen zu schützen. Welche Rechtsrahmen es gegen Diskriminierung im Allgemeinen schon gibt und welche neuen Vorgaben die KI-Verordnung im Speziellen vorsieht – darüber lesen Sie in dieser Ausgabe von prompt/.
Wie immer wünschen wir Ihnen viel Freude und Erkenntnisgewinn beim Lesen.
Ach, halt, da ist noch etwas: Merken Sie sich gerne schon mal den 8. Juni 2026 vor. Wir planen eine Veranstaltung rund um die Themen unseres Projekts und dieses Newsletters!
Ihr prompt/-Team
Artikel in dieser Ausgabe
- Gesetzlich verankert: Gleichbehandlung und keine Diskriminierungen – Schwerpunktthema
- Bias in KI – und die Folgen: Wenn Algorithmen fehlerhaft entscheiden – Forschung
- So soll die KI-Verordnung gegen diskriminierende KI-Anwendungen wirken – KI-Verordnung
- Alle Modelle haben ihre offenen Flanken – Interview
- Bias und Debiasing – Hintergrund
- Lesetipps aus der Ausgabe April 2026 – Weiterlesen