Hintergrund

Problem of many hands

KI-Agenten aus rechtlicher Perspektive

Im Zusammenhang mit KI-Agenten sprechen manche vom „Problem of many hands", einem Konzept aus Philosophie und Ethik, das danach fragt, wie in einem komplexen System mit vielen Akteuren Verantwortung zugewiesen werden kann. Vom Training des zugrunde liegenden Modells über die Entwickler*innen des KI-Agenten bis zu dessen Einsatz sind viele Akteure an der Wertschöpfungskette beteiligt und interagieren miteinander. Hinzu kommen mögliche, von KI-Agenten ausgelöste Interaktionen, etwa die Delegation von Aufgaben an andere KI-Agenten oder Menschen.

Ein wesentlicher Unterschied zu anderen Produkten komplexer Wertschöpfungsketten – etwa Autos oder Maschinen – ist, dass KI-Agenten autonome Entscheidungen treffen und ihr Verhalten in Echtzeit ohne menschliche Intervention ändern können. Geht dabei etwas schief, ist schwer zu bestimmen, wo genau der Fehler lag und wer dafür verantwortlich ist.

Haftungsfragen und mögliche LösungsansätzeLink zu diesem Abschnitt: Haftungsfragen und mögliche Lösungsansätze

Zunächst ist es nicht einfach, angemessene Sorgfaltspflichten festzulegen: Hätte ein*e Nutzer*in sorgfältigere Anweisungen geben müssen? Hätte ein*e Entwickler*in sicherstellen müssen, dass der Agent auch zweideutige Anweisungen richtig interpretiert? Hinzu kommt, dass Schäden durch KI-Agenten nicht immer materieller Natur sind – auch Diskriminierung, Rechtsverletzungen oder systemische Schäden wie Marktverzerrungen kommen infrage.

Die KI-Verordnung kann ein Teil der Lösung sein, da sie verschiedenen Akteuren abhängig von ihren Möglichkeiten unterschiedliche Pflichten zuweist – etwa zu Risikobewertungen, Transparenz und menschlicher Aufsicht. Sie wurde aber nicht explizit für KI-Agenten konzipiert: Unklar bleibt etwa, in welche der drei Risikokategorien KI-Agenten fallen, und bei Haftungsfragen verweist die KI-VO meist auf die Produkthaftungsrichtlinie und nationales Recht. Erste Ergänzungsvorschläge orientieren sich deshalb an Regulierungsmodellen für autonome Fahrzeuge.

Themen

Schwerpunktthema

KI-Agenten im Fokus

KI-Agenten erweitern die Möglichkeiten von KI-Systemen erheblich, doch die rechtlichen Rahmenbedingungen dafür sind noch im Aufbau – mit …

3 Min. Lesezeit