Regulierung

Bundesnetzagentur: Zwischen Koordination, Beratung und Bußgeldern

Die zentrale KI-Anlaufstelle soll fördern und kontrollieren zugleich

Als „zuständige nationale Behörde“ im Sinne der KI-Verordnung muss die Bundesnetzagentur sehr unterschiedliche Aufgaben erfüllen: Einerseits soll sie die staatliche Aufsicht über die Umsetzung der Vorgaben aus der KI-Verordnung koordinieren und durchsetzen, andererseits soll sie Innovation und KI-Nutzung in Unternehmen und Organisationen aktiv fördern und unterstützen. Was widersprüchlich scheint, ist eigentlich konsequenter Trend in der europäischen Digitalpolitik, wie sich zum Beispiel an den Datenschutzbehörden zeigt: Staatliche Aufsichtsstellen sollen als unterstützende Partner der Privatwirtschaft auftreten und weniger als Kontrollstellen, die mit Bußgeld und Strafe drohen.

Die Bundesnetzagentur als Partnerin: Förderung, Beratung und gemeinsame ExperimenteLink zu diesem Abschnitt: Die Bundesnetzagentur als Partnerin: Förderung, Beratung und gemeinsame Experimente

Ihrer Rolle als innovationsfördernde Partnerin will die Bundesnetzagentur vor allem über ihren KI-Service Desk (Öffnet in einem neuen Tab) gerecht werden. Hier bietet sie verschiedene Informationsmaterialien zur KI-Regulierung an:

  • Ein ausführliches Glossar (Öffnet in einem neuen Tab) bietet eine Orientierung zu wesentlichen Begriffen und Themen, die mit der KI-Regulierung im Zusammenhang stehen – etwa, was mit Notifizierung oder Risikostufen im Sinne der KI-Verordnung gemeint ist.
  • Mit einem Compliance-Kompass soll eine vorläufige Einordnung des eigenen Unternehmens und des geplanten KI-Systems in die Regelungen der KI-Verordnung erleichtert werden.
  • In einem Hinweispapier (Öffnet in einem neuen Tab) formuliert die Bundesnetzagentur, wie die Kompetenzschulungspflicht umgesetzt werden kann.
  • Ein FAQ sammelt an den KI-Service Desk gerichtete Fragen zur KI-Verordnung und schafft eine branchenübergreifende Wissensdatenbank.
  • Ein digitales „KI-Café“ soll verschiedene Beispiele für innovativen KI-Einsatz beleuchten, ein begleitender Podcast zusätzliches Material bieten.

Zentraler Baustein der Innovationsförderung sollen in Zukunft auch sogenannte KI-Reallabore (Öffnet in einem neuen Tab) werden: Hier werden für einen begrenzten Zeitraum die Regeln, die für Entwicklung, Training, Testen und Validieren innovativer KI-Systeme gelten, aufgehoben. Gleichzeitig soll die Bundesnetzagentur hier besonders intensiv kontrollieren und begleiten.

Diese Form der Kooperation von Staat, Wissenschaft und Wirtschaft ist noch vergleichsweise neu, konkrete Beispiele und Erfahrungswerte fehlen bisher. Die Bundesnetzagentur hat aber zusammen mit der Bundesbeauftragten für den Datenschutz und die Informationsfreiheit und dem Hessischen Ministerium für Digitalisierung und Innovation ein Pilotprojekt (Öffnet in einem neuen Tab) durchgeführt, um Prozesse und Abläufe einzustudieren. Bis Juni 2026 hatte die Bundesnetzagentur außerdem die Teilnahme an ersten KI-Reallaboren in Europa im Rahmen eines von der EU geförderten Projekts unterstützt und begleitet. Von der in den kommenden Monaten anstehenden Auswertung und Analyse werden die konkreten nächsten Schritte zur Förderung von KI-Reallaboren abhängen.

Die Bundesnetzagentur als staatliche Aufsichtsstelle: Maßnahmen und DurchsetzungsmöglichkeitenLink zu diesem Abschnitt: Die Bundesnetzagentur als staatliche Aufsichtsstelle: Maßnahmen und Durchsetzungsmöglichkeiten

Parallel zu dieser eher unterstützenden und fördernden Rolle soll die Bundesnetzagentur in Zukunft jedoch auch Marktüberwachungsbehörde für bestimmte KI-Systeme sein. Hier gelten viele Grundsätze und Regeln, die aus der Produktsicherheit bekannt sind:

  • Die Bundesnetzagentur kann stichprobenhafte Prüfungen vornehmen, ob Anbieter*innen und Betreiber*innen ihre Pflichten nach der KI-Verordnung tatsächlich umsetzen. Dafür kann sie Einsicht in Unterlagen, Informationen und Daten verlangen und Befragungen durchführen.
  • Stellt die Bundesnetzagentur Rechtsverstöße fest, kann sie anordnen, wie diese Verstöße zu beenden sind, andernfalls das KI-System vom Markt nehmen beziehungsweise es zurückrufen (lassen). Sie kann aber auch zunächst nur Verwarnungen aussprechen.
  • Zusätzlich kann die Bundesnetzagentur je nach festgestelltem Verstoß unterschiedlich hohe Bußgelder verhängen. Setzt ein Betreiber ein KI-System zu einem verbotenen Zweck ein, kann die Geldbuße zum Beispiel bis zu 35 Millionen Euro oder bis zu sieben Prozent des gesamten weltweiten Jahresumsatzes betragen – je nachdem, welcher Betrag höher ist. Hat ein KI-Anbieter sein Hochrisiko-KI-System mit unzureichenden Daten trainiert, kann ein Bußgeld von bis zu 15 Millionen Euro oder bis zu drei Prozent des gesamten weltweiten Jahresumsatzes verhängt werden.

Um solche Maßnahmen gegen KI-Anbieter oder KI-Betreiber anzuregen, können Privatpersonen, aber auch Unternehmen oder Organisationen sich bei der Bundesnetzagentur beschweren: Die Bundesnetzagentur hat hierfür eine Beschwerdestelle (Öffnet in einem neuen Tab) sowie ein Online-Formular (Öffnet in einem neuen Tab) eingerichtet. Wichtig ist aber: Obwohl die Bundesnetzagentur angibt, sich um aktive Rückmeldung zu bemühen, besteht hierauf kein Rechtsanspruch. Nach deutschem Rechtsverständnis handelt es sich nämlich nicht um eine Beschwerde (wie zum Beispiel in der DSGVO), sondern um eine Anzeige.

Gleichzeitig gilt auch: Stellen die Anbieter*innen oder Betreiber*innen selbst schwerwiegende Fehlfunktionen von KI-Systemen fest, können – und zum Teil müssen – sie diese Fehlfunktionen der Bundesnetzagentur melden.

Auch wenn schon heute die Möglichkeit besteht, sich bei der Bundesnetzagentur mit Beschwerden zu melden: Die Rolle der Bundesnetzagentur wird vor allem dann wichtig werden, wenn die Pflichten für Hochrisiko-KI-Systeme in Kraft treten. Nach den Fristverschiebungen, die mit dem KI-Omnibus verabschiedet wurden, wird dies erst Ende 2027 beziehungsweise im Sommer 2028 der Fall sein.

Themen

Service

Beschwerdestellen bei KI-Ärger

Bundesnetzagentur, Landesmedienanstalten, KI-Büro der EU und Bafin: Bei diesen Stellen lassen sich Verstöße gegen die KI-Verordnung online …

1 Min. Lesezeit