KI-Agenten im Fokus
Merkmale, Rechtsfragen
„2025 ist das Jahr der KI-Agenten", prognostizierte Kevin Weil (Öffnet in einem neuen Tab), Chief Product Officer von OpenAI, Anfang Januar beim Weltwirtschaftsforum in Davos. Das US-amerikanische Cloud-Computing-Unternehmen Salesforce kündigt an, bis Ende des Jahres „eine Milliarde Agenten" (Öffnet in einem neuen Tab) zu aktivieren. In vielen Wirtschaftsbereichen werden KI-Agenten bereits eingesetzt: in der Kundenbetreuung, der Softwareentwicklung, im Marketing und zunehmend im Finanzwesen. Doch was sind KI-Agenten und welche rechtlichen Fragen werfen sie auf?
Was KI-Agenten von Chatbots unterscheidetLink zu diesem Abschnitt: Was KI-Agenten von Chatbots unterscheidet
Im Gegensatz zu klassischen Chatbots können KI-Agenten „eigenständig" mal mehr, mal weniger komplexe Ziele verfolgen und dabei sowohl in virtuellen als auch in realen Umgebungen handeln. Ein KI-Agent kann etwa Websites bedienen, E-Mails schreiben, in Software navigieren, Datenbanken durchsuchen oder Code generieren. Über programmierbare Schnittstellen (APIs) lassen sich auch alltägliche Aktionen auslösen: Geld überweisen, Bestellungen aufgeben, Termine buchen oder Smart-Home-Geräte steuern.
Technisch bestehen KI-Agenten aus einem leistungsstarken Sprachmodell und zusätzlicher Software, die Zugang zu externen Werkzeugen, Datenbeständen oder Dateien ermöglicht. Firmen können solche Systeme selbst entwickeln, etwa durch Fine-Tuning vortrainierter Sprachmodelle oder durch Agentensysteme auf Basis von Retrieval Augmented Generation (RAG). Manche KI-Plattformen bieten zudem Low-Code-Ansätze an, mit denen Unternehmen eigene KI-Agenten konfigurieren können, ohne selbst KI-Modelle programmieren zu müssen.
Rechtliche Risiken und regulatorische LückenLink zu diesem Abschnitt: Rechtliche Risiken und regulatorische Lücken
Rechtlich gesehen sind KI-Agenten grundsätzlich KI-Systeme im Sinne der KI-Verordnung (KI-VO). Ihre Einordnung in Risikoklassen hängt jedoch vom konkreten Einsatzzweck ab. Da sie oft auf leistungsstarken Sprachmodellen mit potenziell systemischen Risiken basieren, unterliegen sie häufig erweiterten Anforderungen zur Risikoabschätzung – etwa bei Langzeitplanungen eines Agenten, der Finanztransaktionen eigenständig ausführt. Kommt ein KI-Agent in kritischen Bereichen wie Medizin, Bildung oder Infrastruktur zum Einsatz, greifen die strengeren Anforderungen aus Kapitel III der KI-VO (Öffnet in einem neuen Tab).
Wer trägt welche Verantwortung?Link zu diesem Abschnitt: Wer trägt welche Verantwortung?
Die KI-VO weist Pflichten entlang der gesamten Wertschöpfungskette zu. Setzt ein Unternehmen etwa einen KI-Agenten für die Personalauswahl ein – ein Hochrisikobereich laut KI-VO –, muss es sicherstellen, dass er diskriminierungsfrei funktioniert; die Verantwortung bleibt beim Unternehmen, auch wenn die Technik von einem externen Anbieter stammt. Verursacht ein KI-Agent nachweislich Schäden, ist aber oft unklar, wer haftet: ein Modellfehler des Herstellers, ein Konfigurationsproblem oder mangelnde Überwachung durch den Betreiber? Effektive Kontrolle erfordert detaillierte Protokollierung, was wiederum bei persönlichen Aufgaben schnell die Privatsphäre berühren kann.
Wie kann sich die Rechtslage weiterentwickeln?Link zu diesem Abschnitt: Wie kann sich die Rechtslage weiterentwickeln?
Die rechtliche Einordnung wird sich schrittweise klären – durch Gerichtsurteile, Praxisleitfäden und regulatorische Konzepte. Eine mögliche Lösung sind sogenannte Sandboxes (Öffnet in einem neuen Tab): kontrollierte Umgebungen, in denen Behörden, Unternehmen und Verbraucher*innen gemeinsam neue Lösungen testen können, ohne alle regulatorischen Anforderungen vollständig erfüllen zu müssen. Umstritten ist, wie übertragbar die Ergebnisse solcher Tests tatsächlich sind. Stand Juni 2025 arbeitet die EU-Kommission an der Umsetzung der KI-VO, hinkt bei den Praxisleitfäden aber bereits hinter dem Zeitplan her – zugleich wird diskutiert, ob Fristen und Ziele gelockert werden sollten (Öffnet in einem neuen Tab).
Die rechtlichen Rahmenbedingungen für KI-Agenten entstehen gerade erst: Viele zentrale Fragen sind offen, etwa die genaue Definition von „Allzweck-Systemen" oder die praktische Umsetzung menschlicher Aufsicht. Umso wichtiger ist es, beim Einsatz und Entwickeln von KI-Agenten von Anfang an auf ethische Standards und Compliance zu setzen sowie Mechanismen zur Überwachung und zum Eingreifen zu etablieren.
Themen
Artikel teilen
Diesen Beitrag zitieren
iRights.Lab GmbH (2025): „KI-Agenten im Fokus“. In: prompt/, Ausgabe Juli 2025. https://prompt.irights-lab.de/ausgaben/2025-07/monatsthema-ki-agenten-im-fokus (abgerufen am 21.11.2026)
Bitte passen Sie das Abrufdatum an, falls Sie den Beitrag an einem anderen Tag gelesen haben.