Information Extraction Attacks
Unter dem Begriff Information Extraction Attacks (Öffnet in einem neuen Tab) (auch: Model Inversion Attacks) verstehen Fachleute eine Methode, um herauszubekommen, ob in einem großen, vielfältigen Datenbestand ganz bestimmte Daten enthalten sind. Sie lässt sich auch auf KI-Systeme anwenden: Bestimmte Prompts sollen den KI-Systemen präzise und umfangreiche Informationen über die darin verwendeten Trainingsdaten entlocken.
Die Methode ist in der Wissenschaft und bei Aufsichtsstellen wie dem Bundesamt für Sicherheit in der Informationstechnik (BSI) (Öffnet in einem neuen Tab) bereits gut bekannt und kann sogar von ungeübten Nutzer*innen angewandt werden: Die Datenschutzorganisation None of Your Business (NOYB) hatte bereits im April 2024 bei der österreichischen Datenschutzbehörde eine Beschwerde gegen OpenAI (Öffnet in einem neuen Tab) eingereicht, weil ChatGPT falsche personenbezogene Daten zu einer bestimmten Person ausgegeben hatte.
Des einen Freud ist des anderen LeidLink zu diesem Abschnitt: Des einen Freud ist des anderen Leid
Wenn KI-Anbieter verhindern wollen, dass ihre Systeme durch Information Extraction Attacks personenbezogene Daten preisgeben, müssen sie für eine wirksame Anonymisierung (Öffnet in einem neuen Tab) sorgen – im Zweifel, indem sie solche Angriffe gegen die eigenen Systeme durchführen lassen, um Schwachstellen zu identifizieren.
Für Urheber*innen und Rechteinhaber*innen kann genau das zum Problem werden: Sie nutzen dieselbe Methode, um herauszufinden, ob KI-Systeme Inhalte erzeugen, die urheberrechtlich geschützten Originalwerken sehr nahekommen – etwa im Streit der Verwertungsgesellschaft GEMA gegen den Musik-KI-Anbieter Suno. Würden Anonymisierungsmaßnahmen konsequent greifen, ließe sich womöglich nicht mehr nachweisen, dass geschützte Werke in den Trainingsdaten enthalten sind. Datenschutzkonforme, „anonymisierte” KI-Systeme könnten also zugleich die Durchsetzung von Urheberrechten erschweren.
Themen
Artikel teilen
Diesen Beitrag zitieren
iRights.Lab GmbH (2025): „Information Extraction Attacks“. In: prompt/, Ausgabe Mai 2025. https://prompt.irights-lab.de/ausgaben/2025-05/hintergrund-information-extraction-attacks (abgerufen am 21.11.2026)
Bitte passen Sie das Abrufdatum an, falls Sie den Beitrag an einem anderen Tag gelesen haben.