Transparenz über KI-Trainingsdaten – dank effektivem Datenschutz?
In Trainingsdaten von Künstlicher Intelligenz können Daten stecken, die rechtlichen Schutz genießen: urheberrechtlich geschützte Texte oder Fotos, markenrechtlich geschützte Logos – oder personenbezogene Daten wie Name, Anschrift und Personalausweisnummer. Doch ob solche Daten tatsächlich in Trainingsdaten enthalten sind, ist keineswegs leicht festzustellen: Die Anbieter großer Sprachmodelle lassen in der Regel keine Einblicke in ihre Trainingsphasen zu und berufen sich auf Geschäftsgeheimnisse.
Informationspflichten gelten in der KI-VO nur für Hochrisiko-KILink zu diesem Abschnitt: Informationspflichten gelten in der KI-VO nur für Hochrisiko-KI
Letztlich einigten sich die EU-Gesetzgeber darauf, dass eine Informationspflicht zu Trainingsdaten (Öffnet in einem neuen Tab) in der KI-VO lediglich für hochriskante KI-Systeme gilt, etwa solche im Schul- oder Personalwesen. Deren Anbieter müssen eine allgemeine Beschreibung der Trainingsdaten als Teil der technischen Dokumentation erstellen. Für große Sprach- und Bildmodelle, die als weniger riskant eingestuft werden, sollen konkrete Transparenzpflichten (Öffnet in einem neuen Tab) erst in sogenannten Praxisleitfäden festgelegt werden. Für KI-Systeme mit geringem Risiko – etwa Chatbots – sieht die KI-Verordnung dagegen überhaupt keine verpflichtenden Informationen zu Trainingsdaten vor.
Datenschutzaufsichtsbehörden melden sich zu WortLink zu diesem Abschnitt: Datenschutzaufsichtsbehörden melden sich zu Wort
Die deutschen Datenschutzaufsichtsbehörden wiesen bereits im Mai 2024 in einer gemeinsamen Orientierungshilfe (Öffnet in einem neuen Tab) darauf hin, was die DSGVO zwingend vorgibt: Unternehmen müssen aktiv einfordern, dass ihnen vom KI-Anbieter ausreichend Informationen zur Verfügung gestellt werden, um die Transparenzanforderungen der Artikel 12 ff. DSGVO umzusetzen. Die DSGVO geht damit weiter als die KI-Verordnung: Auch Betreiber von KI-Systemen müssen Anbieter vertraglich verpflichten, sie umfassend über Trainingsdaten und verarbeitete personenbezogene Daten aufzuklären – und dürfen sich nicht mit pauschalen Behauptungen zur Anonymisierung zufriedengeben.
Fazit: Ob die DSGVO beim Einsatz von KI-Systemen tatsächlich den längeren Hebel bietet, bleibt vorerst offen. Betreiber von KI-Systemen stecken in einer Zwickmühle: Sie sind auf Transparenz von KI-Anbietern angewiesen, denen sich große Anbieter erfahrungsgemäß gerne entziehen – solange ihnen keine echte Konkurrenz von rechtskonform agierenden Unternehmen erwächst.
Themen
Artikel teilen
Diesen Beitrag zitieren
iRights.Lab GmbH (2025): „Transparenz über KI-Trainingsdaten – dank effektivem Datenschutz?“. In: prompt/, Ausgabe Mai 2025. https://prompt.irights-lab.de/ausgaben/2025-05/monatsthema-transparenz-trainingsdaten (abgerufen am 22.11.2026)
Bitte passen Sie das Abrufdatum an, falls Sie den Beitrag an einem anderen Tag gelesen haben.