Schwerpunktthema

Antworten auf häufige Fragen zu KI & OER

Eingabe, Training, Nutzen: Was Fachleute zu OER in KI-Systemen sagen

Darf man geschützte Werke in ein KI-System eingeben und bearbeiten lassen?

„Lädt man solche Dateien in ein KI-System hoch, entstehen Kopien. Diese werden Vervielfältigungen genannt und sie fallen grundsätzlich unter die Restriktionen des Urheberrechts. Hiernach sind solche Kopien nur zulässig, wenn Nutzer*innen hierfür entweder a) eine Genehmigung haben (einen Vertrag, eine Lizenz, eine zustimmende E-Mail) oder b) wenn sie nach einer gesetzlichen Nutzungserlaubnis gestattet sind. Da a) in der Regel keine praktikable Option sein wird, sind gesetzliche Nutzungserlaubnisse (auch „Schranken“ genannt) von großer Bedeutung. Problematisch ist, dass es für Nutzungshandlungen im Rahmen der „Content Ingestion“ (individueller Upload von geschütztem Material zur Auswertung durch eine KI) keine dezidierten gesetzlichen Nutzungserlaubnisse gibt. So verbleibt Rechtsunsicherheit.

Anwendung finden könnten die Regelungen zum Text- und Data-Mining (Paragraf 44b Urheberrechtsgesetz), die Unterrichtsschranke (Paragraf 60a UrhG), die Regelung zum wissenschaftlichen Gebrauch (Paragraf 60c UrhG) oder auch die Privatkopierschranke (Paragraf 53 Absatz 1 UrhG). Sie alle beziehen sich auf Nutzungshandlungen in bestimmten Kontexten, was eine allgemeine Aussage („Ist das erlaubt?“) unmöglich macht. Nach derzeitiger Einschätzung kommt für Kopien per Content Ingestion im Kontext von Unterricht und Bildung vor allem die Unterrichtsschranke aus Paragraf 60a UrhG in Betracht. Sie hat allerdings allerhand Beschränkungen, die zu beachten sind (siehe hierzu Kreutzer in BMFTR, Urheberrecht an Schulen, S. 13 (Öffnet in einem neuen Tab) und Kreutzer/Fischer, Urheberrecht in Schulen: Welche Nutzungen die Unterrichtsschranke erlaubt?, iRights.info (Öffnet in einem neuen Tab)).

Bei Online-Inhalten gibt es eine rechtlich unproblematische Alternative: Statt Dokumente hochzuladen, werden der KI nur URLs auf das auszuwertende Material übergeben. Hierbei erstellen die Nutzer*innen selbst keine Kopien, sondern sagen der KI lediglich, wo sie die auszuwertenden Inhalte findet. Solche Verweise sind urheberrechtlich grundsätzlich zulässig.“

Sprachlich leicht bearbeiteter Auszug aus dem Online-Wiki „KI in der Bildung: Rechtliche Orientierung für Bildungseinrichtungen und Lehrkräfte (Öffnet in einem neuen Tab)“, von Dr. Till Kreutzer (Rechtsanwalt bei iRights.Law (Öffnet in einem neuen Tab), Mitgründer von iRights.info (Öffnet in einem neuen Tab)), veröffentlicht durch das Bündnis Freie Bildung auf der Plattform OEde (Öffnet in einem neuen Tab), unter der Lizenz CC BY 4.0 (Öffnet in einem neuen Tab)

„In ihren Allgemeinen Geschäftsbedingungen (AGB) verlangen Anbieter generativer KI-Systeme häufig, dass die Nutzenden bestätigen, über die Rechte an den von ihnen eingegebenen Materialien zu verfügen. Die Terms of Use (AGB) von Open AI (Stand: 11.12.2024) beinhalten beispielsweise folgende Passage: „You represent and warrant that you have all rights, licenses and permissions needed to provide input to our services.“ (Ins Deutsche übersetzt: „Sie versichern und gewährleisten, dass Sie über alle Rechte, Lizenzen und Genehmigungen verfügen, die für die Bereitstellung von Eingaben für unsere Dienste erforderlich sind.“). Generell gilt: Solange ich KI-generierte Inhalte, die vorrangig auf urheberrechtlich geschützten Eingaben basieren, nur intern verwende und nicht öffentlich weiter nutze, ist das rechtliche Risiko einer Beanstandung durch die Rechteinhaber*innen derzeit als eher gering einzuschätzen (auch weil sie das überhaupt erst mitbekommen müssten).

Jenseits urheberrechtlicher Aspekte sind beim Upload die Persönlichkeitsrechte abgebildeter Personen sowie Datenschutzbestimmungen zu respektieren. Hierbei ist zu beachten, dass eine echte Anonymisierung häufig über eine bloße Löschung von Namen hinausgeht. Zudem sollten noch unveröffentlichte fremde Manuskripte, Forschungsergebnisse oder sonstige vertrauliche Materialien oder Korrespondenzen nicht Gegenstand eines Prompts sein. Handelt es sich um Werke ohne sogenannte Schöpfungshöhe, zum Beispiel bei sehr einfachen Gestaltungen wie schlichten Balkendiagrammen, ist die Eingabe unbedenklich. Gleiches gilt für gemeinfreie Materialien, auch hier ist die Eingabe unbedenklich.“ (Siehe hierzu der Glossar-Beitrag zu „Gemeinfreie Werke“ weiter unten.)

Sprachlich leicht bearbeiteter Auszug aus der Broschüre „10 Jahre HOOU – 10 Fragen zu KI-Output, Urheberrecht & OER (Öffnet in einem neuen Tab)“, HOOU@HAW Hamburg | Andrea Schlotfeldt, CC BY 4.0 (Öffnet in einem neuen Tab) (April 2025)

Darf man CC-lizenzierte Werke in ein KI-System eingeben und bearbeiten lassen?

„Die Grundidee der Creative Commons-Lizenzen ist es, die Verbreitung von Inhalten zu fördern und keine Einschränkungen aufzuerlegen. Daher gibt es gute Gründe, die vertraglichen Bedingungen der CC-Lizenzen nicht als Vorbehalt von Rechten im Rahmen einer urheberrechtlichen Erlaubnis zu interpretieren. Dennoch ist festzuhalten, dass die Erfüllung der Lizenzpflichten wie beispielsweise die Namensnennung gegebenenfalls herausfordernd sein kann, wenn der Output CC-lizenziertes Material enthält.

Bezüglich der unterschiedlichen Creative Commons-Lizenzen ist bei Werken und Materialien, die lizenziert sind unter …

  • … CC0 (durch die Urheber*innen in die Gemeinfreiheit entlassen zur Nachnutzung ohne jegliche Anforderung), die Eingabe unbedenklich,
  • … CC BY und CC BY-SA (Nutzung mit Namensnennung beziehungsweise zusätzlich der Beibehaltung der Lizenz), die Eingabe unbedenklich,
  • … CC BY-NC (keine Nutzung für kommerzielle Zwecke erlaubt), die Eingabe umstritten, bei kommerziellen Diensten gegebenenfalls problematisch,
  • … CC BY-ND (keine Bearbeitung erlaubt), die Eingabe umstritten, gegebenenfalls problematisch.“

Sprachlich leicht bearbeiteter Auszug aus der Broschüre „10 Jahre HOOU – 10 Fragen zu KI-Output, Urheberrecht & OER (Öffnet in einem neuen Tab)“, HOOU@HAW Hamburg | Andrea Schlotfeldt, CC BY 4.0 (Öffnet in einem neuen Tab) (April 2025)

Muss man OER ausdrücklich freigeben, damit KI-Modelle damit trainiert werden können?

„Die kurze Antwort: Nein. Der Grund: Schon die freien Lizenzen, die für das „Open“ in Open Educational Resources sorgen, erlauben dies. […] KI-Modelle können also ohne weiteres Vorgehen mit OER trainiert werden. Was aber ist, wenn man verhindern möchte, dass dies geschieht? Viele Betreiber von KI-Systemen beachten maschinenlesbar erklärte Nutzungsvorbehalte – und sind gesetzlich sogar dazu verpflichtet. Allerdings stehen die freie Lizenzierung (vertragliche Erlaubnis) und das technisch erklärte Opt-out (erklärtes Verbot) zueinander im Widerspruch. Zudem ist zweifelhaft, ob die OER-Community solche Opt-outs mit dem Begriff „open“ als vereinbar ansieht.“

Auszug aus dem Beitrag „OER, generative KI und fremde Werke“ (Öffnet in einem neuen Tab), Fabian Rack, iRights (Öffnet in einem neuen Tab) für OERinfo (Öffnet in einem neuen Tab), veröffentlicht unter der Lizenz CC BY 4.0 (Öffnet in einem neuen Tab)

Siehe hierzu auch der Beitrag zum Konzept der CC Signals weiter unten.

Was spricht dafür, in KI-Systemen und KI-Tools, mit denen man Bildungsmaterialien erstellt oder bearbeitet, auch oder insbesondere OER zu verwenden?

„OER sind eindeutig lizenziert, was es ermöglicht, große Mengen qualitativ verlässlicher Inhalte legal für die Entwicklung und das Training von KI-Systemen zu nutzen. Durch die mit OER-Materialien verknüpften standardisierten Metadaten (wie Autor*in, Lizenz, Version, …) kann ein KI-System im Training wiederholt ähnliche Strukturen für Quellenangaben und Attributionen besser erkennen, respektieren und übernehmen. Dadurch wird der Korpus der Trainingsdaten rechtssicher und das Risiko minimiert, dass ein KI-Modell unbeabsichtigt urheberrechtlich geschützte Inhalte reproduziert. OER bieten also eine rechtssichere Grundlage durch eindeutige Nutzungsrechte.

Transparenz und Reproduzierbarkeit des Trainings

OER können der KI dabei helfen, Muster von Attribution, Quellenangaben und Kontextualisierung zu lernen – ein wichtiger Faktor, wenn eine KI qualitativ hochwertige und gut begründete Antworten liefern soll. Da die so genutzten OER öffentlich zugänglich und weltweit nachnutzbar sind, lässt sich transparent nachvollziehen, welche Quellen beziehungsweise welche Daten in das Training eingeflossen sind. Diese Nachvollziehbarkeit schafft eine belastbare Grundlage, um Verantwortlichkeiten für bestimmte Inhalte oder KI-Modellverhalten zuzuordnen. KI-Entwickelnde beziehungsweise KI-Forschende können so fundiert angeben, auf welchen Ressourcen ein Modell beruht und wie diese ausgewählt wurden. Durch eine solche Offenheit der Trainingsdaten können auch andere Forschende beziehungsweise KI-Entwickelnde dieselben Datensätze identifizieren und (wieder-)verwenden. Dies fördert reproduzierbare Experimente in der KI-Entwicklung und ermöglicht die Prüfung, aber auch systematische Verbesserungen eines KI-Modells. Weil OER frei verfügbar sind, können auch kleinere Forschungsteams oder Bildungsinstitutionen KI-Modelle anhand dieser Daten entwickeln und verbessern. Das erhöht die Vielfalt an Perspektiven im Trainingsprozess und kann langfristig zu qualitativ höheren KI-Modellen beitragen.

Qualitätssteigerung des Outputs

OER stammen häufig aus unterschiedlichen Fachrichtungen, Institutionen und Ländern. Werden solche verschiedenartigen Materialien zum Training von KI-Modellen eingesetzt, kann dies helfen, den Trainingsdatenkorpus diverser und weniger verzerrt zu gestalten, denn: Anhand von Daten aus verschiedenen OER-Quellen kann die KI Perspektiven unterschiedlicher Fachkulturen, geografischer Regionen, Geschlechter oder gesellschaftlicher Kontexte kennenlernen. Dadurch wird nicht nur das Risiko verringert, dass das Modell einseitige, verzerrte und Bias-behaftete Informationen reproduziert, sondern im Gegenteil ermöglicht, dass die Ergebnisse im Output möglichst ausgewogen und inklusiv sind. Viele OER werden nach den Qualitätsstandards guter wissenschaftlicher Praxis, institutionell oder nach einer Begutachtung im Rahmen eines Peer-Reviews herausgegeben. Die Nutzung solcher hochqualitativen Materialien für das Training einer KI senkt das Risiko, dass fehlerhafte oder unseriöse Inhalte ins Training gelangen und später Einfluss auf den Output der KI haben.“

Leicht gekürzter und sprachlich leicht bearbeiteter Auszug aus einem Beitrag vom OER Lab der Universität Koblenz (Öffnet in einem neuen Tab), veröffentlicht unter CC BY-SA 4.0 International (Öffnet in einem neuen Tab)

„[…] OER mit ihrem hohen Qualitätsanspruch können […] dazu beitragen, dass generative KI-Systeme bessere und zuverlässigere Ergebnisse liefern, sei es über das Training von KI im engeren Sinne, oder über das Einspeisen von OER in die Verarbeitung von Nutzeranfragen (zum Beispiel über sogenannte „Retrieval-Augmented Generation“, ein Prozess, bei dem Anfragen an die KI mit semantisch passenden Informationen aus verlässlichen Quellen angereichert werden, vergleiche Lewis et al., 2020; Fischer et al., 2024). Definierte Qualitätskriterien und Instrumente zur Qualitätssicherung, mit Angaben zur Herkunft der Ressourcen und Informationen zur Reputation der beitragenden Akteure, zeugen davon, dass Qualität bei OER großgeschrieben wird.

Darüber hinaus decken OER-Materialien oft ein breites Spektrum an Themen und Perspektiven ab und richten sich an unterschiedliche Zielgruppen. Durch die redaktionelle Betreuung der Plattformbetreiber mit Beteiligung der Fachcommunity und Nutzerbewertungen unterliegen OER zudem einer vergleichsweise guten Qualitätskontrolle. KI-Systeme wiederum profitieren von zuverlässigem Input – insofern sind gute, offene Lernmaterialien eine wertvolle Datenquelle, die zu vielfältigeren und repräsentativeren Ergebnissen beitragen kann. Die Nutzung von OER bei Training oder Einsatz von KI kann dabei transparenter machen, wie KI-generierte Antworten zustande kommen und damit das Vertrauen der Nutzenden in KI-Systeme stärken.“

Auszug aus „Open Educational Resources (OER) und Künstliche Intelligenz (KI) Entwicklungschancen für die berufliche Weiterbildung (Öffnet in einem neuen Tab)“, von Dr. Andreas Fischer, Anna Jöchner, Dominique Dauser, veröffentlicht in „f-bb-online, Schriftenreihe des Forschungsinstituts Betriebliche Bildung (f-bb)“ unter CC BY-SA 4.0 International (Öffnet in einem neuen Tab)

Themen