Interview

„Klare Haftungsregeln würden die Akzeptanz von KI-Agenten fördern"

Interview mit Julia Smakman vom Ada Lovelace Institute

iRights.Lab: Julia Smakman (Öffnet in einem neuen Tab), Sie haben sich intensiv mit der Regulierung von KI-Agenten beschäftigt. Welchen Ansatz halten Sie für vielversprechend?

Julia Smakman: Wir brauchen einen Rahmen, der die Autonomiestufen von KI-Agenten berücksichtigt. Inspiriert durch die Regelungen für selbstfahrende Autos, schlagen wir ein Modell vor, das KI-Agenten je nach Grad der Autonomie in verschiedene Kategorien einordnet (Öffnet in einem neuen Tab) – von vollständig überwachten Systemen bis zu hochgradig autonomen Agenten.

iRights.Lab: Was sind die Vorteile dieses Ansatzes?

Julia Smakman: Ein solcher gestufter Ansatz würde Klarheit schaffen: Entwickler*innen, Nutzer*innen und Regulatoren würden wissen, welche Anforderungen für welche Art von Agent gelten. Das würde auch Innovation ermöglichen – weniger strenge Anforderungen für einfache, spezialisierte Agenten; höhere Standards für autonome Systeme in kritischen Bereichen.

iRights.Lab: Welche Hürden müssten überwunden werden, damit Ihr Modell tatsächlich umgesetzt werden kann?

Julia Smakman: Wir sehen nur begrenztes politisches Interesse an neuen rechtlichen Rahmenbedingungen für KI, und die Industrie könnte zögern, mehr Verantwortung für hochgradig autonome Agenten zu übernehmen. Wir glauben aber, dass klare Haftungsregeln die Akzeptanz von KI-Agenten fördern würden – ähnlich wie beim britischen Autonomous Vehicles Act (Öffnet in einem neuen Tab), der Menschen Vertrauen in selbstfahrende Autos geben sollte.

iRights.Lab: Welchen Rat würden Sie jemandem geben, der bereits heute mit KI-Agenten arbeitet?

Julia Smakman: Gehen Sie mit der gebotenen Sorgfalt vor und vergewissern Sie sich, dass jeder eingesetzte KI-Agent ordnungsgemäß für den vorgesehenen Zweck getestet wurde. Die Risiken weniger autonomer Agenten für spezifische Aufgaben sind geringer als jene hochgradig autonomer Agenten mit Internetzugang, die „open-end"-Aufgaben ausführen. Wie bei jedem KI-System können Sie haftbar gemacht werden, wenn die KI einen Schaden verursacht.

Themen

Schwerpunktthema

KI-Agenten im Fokus

KI-Agenten erweitern die Möglichkeiten von KI-Systemen erheblich, doch die rechtlichen Rahmenbedingungen dafür sind noch im Aufbau – mit …

3 Min. Lesezeit

Service

Beschwerdestellen bei KI-Ärger

Bundesnetzagentur, Landesmedienanstalten, KI-Büro der EU und Bafin: Bei diesen Stellen lassen sich Verstöße gegen die KI-Verordnung online …

1 Min. Lesezeit