KI-Verordnung

Vorgaben zu Kennzeichnungen von KI-Systemen und KI-Outputs

Eine zentrale Rolle bei der Kennzeichnung von KI-generierten Inhalten spielt Artikel 50 der KI-Verordnung (Öffnet in einem neuen Tab), der für die meisten KI-Anbieter ab dem 2. August 2026 in Kraft tritt. Ziel ist, Nutzer*innen klar darüber zu informieren, wann sie mit KI interagieren oder KI-generierte Inhalte wahrnehmen – allerdings nicht pauschal für alle KI-Anwendungen, sondern für bestimmte Anwendungsfälle.

Wer muss kennzeichnen, was muss gekennzeichnet werden?Link zu diesem Abschnitt: Wer muss kennzeichnen, was muss gekennzeichnet werden?

Die Pflichten betreffen je nach konkreter Vorgabe Anbietende und Betreibende von KI-Systemen – das kann Verlage, Sender, Podcaster, Social-Media-Plattformen ebenso betreffen wie Handelsunternehmen oder Behörden. Kennzeichnungspflichtig sind KI-Systeme, die eigenständig mit Menschen interagieren (etwa Chatbots), synthetische Inhalte erzeugen oder Emotionen und biometrische Merkmale erkennen. Ebenso zu kennzeichnen sind Deepfakes sowie veröffentlichte, KI-generierte Texte zu gesellschaftlich relevanten Themen.

Ausnahmen gelten etwa, wenn Inhalte von Menschen redaktionell geprüft und verantwortet wurden – Standard bei etablierten Medienhäusern –, sowie für klar erkennbare Kunst, Fiktion oder Satire (Artikel 50 Absatz 4 KI-VO).

Wie muss gekennzeichnet werden?Link zu diesem Abschnitt: Wie muss gekennzeichnet werden?

Die Kennzeichnung muss zum Zeitpunkt der Interaktion oder Wahrnehmung erkennbar, klar, verständlich, gut sichtbar und barrierefrei sein. Wie sie konkret aussehen soll, legt die KI-VO selbst nicht fest – das soll der Code of Practice der EU-Kommission (Öffnet in einem neuen Tab) klären, der zwischen Mai und Juni 2026 final veröffentlicht werden soll. Auch ohne Logo gelten Formulierungen wie „vollständig/teilweise KI-generiert" als ausreichend; wichtig ist zudem eine technisch robuste Kopplung an den Inhalt, etwa über Wasserzeichen oder maschinenlesbare, nicht entfernbare Metadaten.

Sanktionen und ZuständigkeitenLink zu diesem Abschnitt: Sanktionen und Zuständigkeiten

Wer sich nicht an die Pflichten hält, riskiert Bußgelder – zuständig sind die Behörden der EU-Mitgliedstaaten, in Deutschland vor allem die Bundesnetzagentur, ergänzt um die Landesmedienanstalten im Bereich der Medienhäuser und Telemedienanbieter.

Themen