Schwerpunktthema

Sticht die DSGVO die KI-VO?

Die Regelungen zum Datenschutz gelten auch für die Nutzung von KI-Systemen

Personenbezogene Daten an Dienstleister und Hersteller von Apps weiterzugeben ist alltäglich und den allermeisten bewusst: Wer sich von einer Navigationsapp zum Ziel leiten lässt, erlaubt oft die Übertragung seiner Standortdaten an den Betreiber; wer Soziale Netzwerke nutzt, erlaubt den Anbietern in der Regel, geteilte Inhalte und das eigene Nutzungsverhalten zu analysieren.

Was aber, wenn diese Daten ohne Zustimmung zum Training von Sprachmodellen genutzt werden? So hat der Datengigant Meta angekündigt, die eigenen KI-Sprachmodelle künftig mit Texten, Bildern, Filmen und weiteren Inhalten der Nutzer*innen seiner Anwendungen Facebook oder Instagram zu optimieren (Öffnet in einem neuen Tab). Ähnlich ist die Online-Plattform X (Öffnet in einem neuen Tab) vorgegangen. Doch ist das überhaupt rechtens? Greifen in solchen Fällen die Regelungen der Datenschutz-Grundverordnung (DSGVO)?

Die DSGVO nimmt nicht nur KI-Anbieter in den BlickLink zu diesem Abschnitt: Die DSGVO nimmt nicht nur KI-Anbieter in den Blick

Die KI-VO nimmt vor allem die Anbieter (provider) von KI-Systemen in die Pflicht. Die DSGVO hingegen will jede rechtswidrige Verarbeitung personenbezogener Daten verhindern – egal an welcher Stelle der KI-Nutzung sie erfolgt. Diese Pflicht betrifft also nicht nur die KI-Anbieter, sondern auch mögliche spätere KI-Betreiber*innen (deployer). Die DSGVO orientiert sich dabei an konkreten Verarbeitungsschritten entlang der KI-Wertschöpfungskette (Öffnet in einem neuen Tab): vom Training über die Optimierung bis hin zum Output generativer KI-Systeme – und jede Stelle ist unabhängig von den Aktivitäten der anderen für die Einhaltung datenschutzrechtlicher Bestimmungen voll verantwortlich (Öffnet in einem neuen Tab).

  • Am Anfang stehen jene Stellen, die Trainingsdaten erheben – Sammeln, Generieren, Strukturieren und Aufbereiten kann dabei sehr unterschiedlich organisiert sein, bleibt aber stets datenschutzrechtlich verantwortlich.
  • Beim Training und Fine-Tuning von KI-Systemen (Öffnet in einem neuen Tab) können ebenfalls personenbezogene Daten verarbeitet werden – ein eigener Verarbeitungsschritt mit eigenen Schutzmaßnahmen.
  • Auch Unternehmen und Stellen, die fertig entwickelte KI-Systeme erwerben und nutzen, sind verantwortlich – sowohl für den Input, den sie eingeben, als auch für den Umgang mit dem Output.

Ein Beispiel: Ein Kunde verlangt beim Unternehmen „U-GmbH“ Auskunft darüber, ob seine private Anschrift durch das dort eingesetzte KI-System verarbeitet wird. Das Unternehmen darf nicht darauf verweisen, dass das KI-System von einem externen Dienstleister finegetuned wurde. Stattdessen muss die U-GmbH selbst eine richtige und vollständige Auskunft erteilen können – sonst drohen Schadenersatzansprüche und aufsichtsrechtliche Bußgelder.

FazitLink zu diesem Abschnitt: Fazit

Mit seinem Fokus auf einzelne Verarbeitungsschritte geht das Datenschutzrecht sehr kleinteilig vor. Womöglich erweist es sich gerade deshalb als ausschlaggebend dafür, welche KI-Systeme in welcher Weise in der Praxis genutzt werden – einerseits als Anreiz für datenschutzkonforme, transparente Produkte, andererseits fürchten manche, dass sich Anbieter leistungsstarker KI-Systeme aufgrund dieser Anforderungen vom europäischen Markt zurückziehen könnten.

Themen