Ausnahmen für Polizei und Migrationsbehörden

Die EU-Gesetzgeber verhandeln über die Regulierung von Künstlicher Intelligenz Vor zwei Jahren hat die EU-Kommission ihren Vorschlag für einen »AI-Act« vorgelegt. Nun streiten die Mitgliedstaaten und das Parlament darüber, was darin als Risiko definiert w

Zwei Jahre ist es bald her, dass die Europäische Kommission einen Entwurf zur Regulierung von Künstlicher Intelligenz (KI) auf EU-Ebene vorgelegt hat. Um diesen »AI-Act« zu beschließen, müssen Kommission, Europaparlament und Rat im sogenannten Trilog verhandeln. Das Gesetz sollte bis 2024 beschlossen sein, allerdings ist dieser Zeitplan nur schwer einzuhalten.

Mit dem AI-Act will die Kommission einen Rechtsrahmen für »vertrauenswürdige« KI schaffen, aber auch Innovation fördern und Europa als Standort für die Entwicklung und den Einsatz von KI-Anwendungen attraktiver machen. In seiner ursprünglichen Fassung sollte der Gesetzesvorschlag für jedes in der EU verwendete KI-System gelten. Je nachdem, wer sich in den Verhandlungen durchsetzt, könnte das Gesetz auch für Exportprodukte gelten.

Der Vorschlag sieht einen risikobasierten Ansatz vor, bei dem KI-Systeme in vier Kategorien eingeteilt werden. Für diese gelten dann jeweils spezifische Auflagen. Was als Hochrisiko zählt, soll die Kommission festlegen und regelmäßig überprüfen. Einige Systeme, darunter etwa das sogenannte SocialScoring – hierbei werden Menschen aufgrund gesammelter Daten benachteiligt oder bevorzugt – sollen direkt verboten werden. Für Systeme mit minimalem Risiko soll es hingegen keine Auflagen oder allenfalls geringe Transparenzanforderungen geben.

Welche Technologien von dem Entwurf ein- oder ausgeschlossen werden, ist aber immer noch offen und Gegenstand der TrilogVerhandlungen. Der Rat und das Parlament haben unterschiedliche Vorstellungen zu dem Vorschlag, beide Gesetzgeber haben zentrale Elemente des Vorschlags bereits zerpflückt.

Die Mitgliedstaaten sprechen sich beispielsweise dafür aus, die Bereiche Strafverfolgung, Migration, Asyl und Grenzkontrollen aus dem Gesetz herauszunehmen. Das ist auch die Haltung der Bundesregierung, die hierzu ein eigenes Positionspapier verfasst hat.

Strittig ist auch die polizeiliche Nutzung biometrischer Erfassungssysteme, darunter die automatisierte Gesichtserkennung im öffentlichen Raum. Im Entwurf der Kommission werden diese als »Echtzeit-Fernerkennungssysteme« bezeichnet und sollten demnach streng reguliert werden. Allerdings werden auch zahlreiche Ausnahmen genannt: So soll die Technik etwa zur Abwehr einer »unmittelbaren Bedrohung« der staatlichen Sicherheit eingesetzt werden dürfen. EU-Abgeordnete kritisieren dies als Vorlage für die Massenüberwachung der Bevölkerung.

Auch ohne Echtzeit-Funktion könnten jedoch bereits vorhandene Aufnahmen aus der Videoüberwachung nachträglich mit KI analysiert werden. Darauf verweist auch die in Berlin ansässigedigitale Bürgerrechtsorganisation Algorithmwatch. Demnach ermutige der Vorschlag der Kommission, auf bei der Polizei oder etwa Verkehrsbetrieben gespeicherte Videodaten zuzugreifen. Das ist auch die Haltung der Bundesregierung, die auf diese Weise ihren Koalitionsvertrag aushebelt. »Den Einsatz von biometrischer Erfassung zu Überwachungszwecken lehnen wir ab«, hatte es darin eigentlich geheißen.

Der Plan könnte jedoch am EU-Parlament scheitern. Vor einem Monat hatten die zuständigen Berichterstatter Brando Benifei (Italien) und Dragoș Tudaroche (Rumänien) für den AI-Act auf ein umfassendes Verbot biometrischer Überwachung gedrängt. Dies soll auch für die nachträglich Identifikation durch »Face Scraping« gelten, egal ob dies durch private wie öffentliche Institutionen eingesetzt würde. Angesichts der rasanten Entwicklungen um textgenerierende KI wie Chat GPT fordern die Abgeordneten zudem, diese Systeme ebenfalls in den AI Act aufzunehmen.