Häufige Fragen zum rechtlichen Umgang mit KI-Chatbots
Wir alle nutzen KI-Chatbots im Alltag – privat und bei der Arbeit. Dabei tauchen regelmäßig praktische und rechtliche Fragen auf. Im Folgenden geben wir einen Überblick über zentrale rechtliche Rahmenbedingungen im Umgang mit KI-Chatbots.
Darf mein Arbeit- oder Auftraggeber mir vorschreiben, welche KI-Tools ich im Arbeitskontext einsetzen soll?
Hier muss man zwischen Angestellten und Freelancern unterscheiden. Arbeitgebende haben gegenüber ihren Angestellten ein sogenanntes Weisungsrecht (Öffnet in einem neuen Tab): Sie dürfen entscheiden, ob und mit welchen Arbeitsmitteln oder Technologien ihre Mitarbeitenden zu arbeiten haben – das gilt auch für KI-Tools. Dabei müssen allerdings bestimmte rechtliche Vorgaben eingehalten werden, etwa der Datenschutz; zudem ist bei der Einführung neuer Arbeitswerkzeuge der Betriebsrat einzubeziehen.
Werden personenbezogene Daten von Mitarbeitenden verarbeitet, müssen die Betroffenen unter Umständen einwilligen. Für Freelancer gilt das Weisungsrecht nicht – mögliche Nutzungspflichten oder -verbote müssen vertraglich vereinbart werden, etwa aus technischen oder Sicherheitsgründen.
Muss ich (meine) KI-Outputs auf Schutzrechtsverletzungen überprüfen?
Wer KI-Output zum rein privaten Gebrauch herstellt, muss ihn in der Regel nicht auf Schutzrechtsverletzungen prüfen (Privatkopie nach § 53 Abs. 1 UrhG). Sobald der eigene KI-Output aber im geschäftlichen Verkehr genutzt wird, gilt eine Sorgfaltspflicht – etwa wenn ein KI-generiertes Logo einer geschützten Bildmarke auffällig ähnelt. Im Detail hängt viel vom Einzelfall ab; außerdem sollten stets auch die Lizenzbedingungen des jeweiligen KI-Anbieters geprüft werden.
Was kann ich tun, wenn ein KI-Output meine Rechte verletzt?
Bei Persönlichkeitsrechtsverletzungen: Ansprüche können gleichzeitig gegen Veröffentlicher und Plattform gerichtet werden. Plattformen sind nach Art. 16 Digital Services Act (DSA) (Öffnet in einem neuen Tab) verpflichtet, gemeldete Inhalte zu prüfen und ggf. zu löschen; bei unzureichender Reaktion kann die Bundesnetzagentur eingeschaltet werden (Öffnet in einem neuen Tab). Zivilrechtlich sind einstweilige Verfügung oder Klage auf Löschung/Unterlassung möglich.
Bei Urheberrechtsverletzungen: Zunächst Beweise sichern (Screenshots mit Datum, URLs, Profilnamen, Originale, Metadaten). Dann die Plattform informieren und den Verantwortlichen schriftlich zur Löschung auffordern. Bei klaren Rechtsverletzungen hilft eine Abmahnung, in Eilfällen eine einstweilige Verfügung; bei komplexen Fällen wie Deepfakes empfiehlt sich anwaltliche Hilfe.
Wo melde ich offensichtlich rechtswidrige, KI-generierte Inhalte?
Auch hier gilt zuerst: Beweise sichern. Die Plattform, auf der der Inhalt veröffentlicht wurde, ist laut Digital Services Act verpflichtet, Meldungen zu prüfen. Organisationen wie HateAid (Öffnet in einem neuen Tab) unterstützen beim Melden und bei rechtlicher Beratung. Für strafrechtlich relevante Inhalte (Bedrohung, Volksverhetzung, Missbrauchsdarstellungen) kann eine Meldung bei der Polizei, etwa über die Onlinewache (Öffnet in einem neuen Tab), sinnvoll sein. Zusätzlich lässt sich der Anbieter direkt kontaktieren, etwa bei ChatGPT (Öffnet in einem neuen Tab), Google Gemini (Öffnet in einem neuen Tab) oder Claude (Öffnet in einem neuen Tab).
Bei großen Plattformen, wie Instagram oder TikTok, muss es bestimmte Beschwerdemechanismen geben – gilt das auch bei KI-basierten Chatbots?
Der Digital Services Act verpflichtet sehr große Plattformen (ab durchschnittlich 45 Millionen aktiven Nutzer*innen pro Monat in der EU) zu einem zentralen, effektiven Beschwerdemechanismus. Die EU-Kommission plant, zumindest ChatGPT als „Very Large Online Search Engine“ einzustufen – dann müsste OpenAI dieselben Pflichten einhalten wie Google und Bing, inklusive eines effektiven Beschwerdemechanismus.
Chatbots spielen emotionale Nähe vor und können Menschen in emotionale Abhängigkeiten treiben – ist das erlaubt?
Viele KI-Chatbots zeigen ein „Gefälligkeitsverhalten“ (Öffnet in einem neuen Tab): Überzeugungen der Nutzenden werden unkritisch bestätigt, um emotionale Bindungen zu simulieren – mit teils problematischen Auswirkungen auf die psychische Gesundheit. Ob bestehendes Recht (etwa das Verbot, Verletzlichkeiten unterschwellig auszunutzen, oder Jugendschutzauflagen) diesem Verhalten Grenzen setzt, ist derzeit rechtlich und gesellschaftlich stark umstritten.
Gehe ich ein Risiko ein, wenn ich KI-generierte Werke nutze und später die „Illegalität“ des Tools gerichtlich festgestellt wird?
Wer generative KI nutzt, ist zunächst nur dafür verantwortlich, dass beim eigenen Prompt keine Rechtsverletzungen begangen werden (Datenschutz, Urheberrecht etc.). Rechtsverletzungen, die bei der Entwicklung des KI-Tools durch den Anbieter entstanden sind, wirken sich nicht automatisch auf die Legalität des eigenen Outputs aus – außer der Output „wiederholt“ die ursprüngliche Rechtsverletzung, etwa durch Reproduktion von Trainingsdaten.
Ist ein urheberrechtlicher Schutz auf Prompts für einen Chatbot möglich?
Eher unwahrscheinlich: Das Urheberrecht schützt kreative Werke, nicht bloße Anweisungen in Alltagssprache. Eine lose Abfolge von Worten ist keine Literatur, keine Lyrik – Prompts fehlt in aller Regel der Werkcharakter, unabhängig davon, wie aufwändig ihre Entwicklung war.
(Übernommen aus „KI in der Bildung: Rechtliche Orientierung für Bildungseinrichtungen und Lehrkräfte (Öffnet in einem neuen Tab)“, Dr. Till Kreutzer, iRights.Law, Lizenz CC BY 4.0.)
Darf ich vollständig KI-generierte und daher gemeinfreie Outputs unter einer Creative-Commons-Lizenz veröffentlichen?
Vollständig KI-generierte Inhalte sind gemeinfrei und dürfen ohne Einschränkung genutzt werden. Manche Jurist*innen halten das Lizenzieren gemeinfreier Werke mit CC-Lizenzen für rechtlich nicht korrekt; empfohlen wird stattdessen ein transparenter Hinweis auf den gemeinfreien Status. Zu beachten: Vollständig KI-generierte Outputs müssen nach Art. 50 KI-VO (Öffnet in einem neuen Tab) als solche gekennzeichnet werden, etwa bei Deepfakes.
Haftet der Chatbot-Anbieter dafür, wenn seine KI-Anwendung fehlerhafte Inhalte generiert?
Rechtlich noch nicht abschließend geklärt, aber ein Urteil des Landgerichts München I vom 28. Mai 2026 (Öffnet in einem neuen Tab) gilt als wegweisend: Google wurde für halluzinierte Falschaussagen einer KI-Übersicht über zwei Münchner Verlage verantwortlich gemacht, da der Anbieter Algorithmen und Ergebnisse des eigenen KI-Systems beeinflussen kann. Ähnlich entschied das OLG Hamm im Fall einer Schönheitsklinik, deren Chatbot Facharztbezeichnungen halluziniert hatte (Öffnet in einem neuen Tab) – auch hier wurde der Betreiber verantwortlich gemacht.
Themen
Artikel teilen
Diesen Beitrag zitieren
iRights.Lab GmbH (2026): „Häufige Fragen zum rechtlichen Umgang mit KI-Chatbots“. In: prompt/, Ausgabe Juni 2026. https://prompt.irights-lab.de/ausgaben/2026-06/monatsthema-ki-chatbots (abgerufen am 21.11.2026)
Bitte passen Sie das Abrufdatum an, falls Sie den Beitrag an einem anderen Tag gelesen haben.