EU will klare Regeln für Gesichtserkennung

Die Überwachung mit Algorithmen soll nur eingeschränkt erlaubt sein

Brüssel – Initiativen wie der geplante Algorithmus des Arbeitsmarktservice (AMS), der die Chancen von Arbeitslosen auf dem Markt künftig einstufen soll, dürften in Zukunft nur mehr mit strengen Vorgaben eingesetzt werden. Sie bekommen Qualitätskriterien und strikte Kontrollmechanismen vorgesetzt. Das sieht zumindest die EU-Kommission vor, die in der kommenden Woche ein entsprechendes Gesetz zur Regulierung von künstlicher Intelligenz (KI) vorstellen will. In dem bereits geleakten Entwurf findet sich eine sehr breite Definition für derartige Systeme, weswegen auch das AMS, das seinen Algorithmus selbst nicht als „KI“bezeichnet, darunter fallen dürfte. Diese Regeln gelten für „hochriskante Systeme“, die in dem

Entwurf erläutert werden. Manche Anwendungen sollen in bestimmten Fällen hingegen gänzlich verboten werden, etwa wenn sie zur Überwachung eingesetzt werden – wobei hier Ausnahmen für Staaten gelten, sofern diese eine entsprechende Rechtsgrundlage schaffen. Sogenannte Sozialkreditsysteme, die in Ländern wie China eingesetzt werden und das Verhalten von Nutzern automatisiert bewerten, sind in Zukunft partout rechtswidrig. Gesichtserkennungssysteme dürfen nur zur Aufklärung schwerer Straftaten verwendet werden. Systeme, die grundsätzlich als weniger riskant eingestuft werden, müssen Nutzern in Zukunft transparenter vorgelegt werden. (red)