Frankreich am Scheideweg
Die Regierung will bald Überwachung mit Künstlicher Intelligenz einsetzen
Europäische Regierungen wollen Algorithmen auch für die Polizei nutzbar machen. Frankreich und die EU beraten dazu höchst unterschiedliche Gesetze. Ein erster Einsatz könnte zur Olympiade in Paris erfolgen.
Die Nationalversammlung berät über einen Gesetzesentwurf zur Videoüberwachung während der Olympiade 2024 in Paris. Menschenrechtsorganisationen warnen vor einer Normalisierung der Massenüberwachung.
Die Augen der Welt richten sich derzeit auf die Proteste gegen die vom französischen Präsident Emmanuel Macron durchgepeitschte Rentenreform. Seit Montagabend debattiert die Nationalversammlung aber auch über einen weiteren, sehr kontrovers diskutierten Gesetzesentwurf. Artikel 7 des im Januar bereits vom Senat verabschiedeten Gesetzes würde den testweisen Einsatz algorithmischer Videoüberwachung während der Olympischen und Paralympischen Spiele 2024 in Paris ermöglichen.
Die geplanten Systeme setzen auf Künstliche Intelligenz (KI), um mithilfe vorab erlernter Muster in riesigen Mengen Videomaterial Auffälligkeiten zu erkennen. In den Augen der Sicherheitsbehörden stellen etwa liegen gelassene Koffer, hohe Personendichten oder Massenbewegungen potenzielle Risiken dar. Erkennt ein System ein solches Muster, alarmiert es die zuständigen Behörden. Diese, so die Idee, treffen dann geeignete Maßnahmen.
Auf Grundlage des Gesetzes könnten derartige Aufnahmen während der Olympischen und Paralympischen Spiele von Drohnen und fest installierten Kameras an Veranstaltungsorten sowie in öffentlichen Transportmitteln stammen. Millionen von Menschen wären auf diese Weise von der automatisierten Auswertung betroffen, jede ihrer Bewegungen würde maschinell auf Auffälligkeiten analysiert – ein Novum in der Geschichte Frankreichs und der Europäischen Union. Am Berliner Bahnhof Südkreuz hatten zwar die Bundespolizei und die Deutsche Bahn ein ähnliches System getestet, die »Vorfälle« wurden dabei aber von Komparsen simuliert.
In einem Offenen Brief vom 7. März fordern 38 Organisationen der Zivilgesellschaft die Nationalversammlung dazu auf, Artikel 7 des Gesetzesentwurfs zurückzuweisen. Dessen Verabschiedung schaffe einen »beunruhigenden Präzedenzfall« und stelle einen »weiteren Schritt zur Normalisierung exzeptioneller Überwachungsbefugnisse unter dem Deckmantel der Sicherheit von Großveranstaltungen« dar, sagt Frederike Kaltheuner, Direktorin für Technologie und Menschenrechte bei Human Rights Watch, einer der unterzeichnenden Organisationen.
»Dieses Gesetz ist ein Trojanisches Pferd, um automatisierten Videoschutz im öffentlichen Raum dauerhaft zu installieren.«
Noeme Levain Juristin bei La Quadrature du Net
Die Prinzipien der Notwendigkeit und Verhältnismäßigkeit seien nicht gewahrt, heißt es in dem Offenen Brief weiter. Die Furcht vor einer Überwachung könnte das Verhalten im öffentlichen Raum beeinflussen, dadurch könnten fundamentale Bürgerrechte wie das Recht auf Versammlungsund Vereinigungsfreiheit sowie das Recht auf freie Meinungsäußerung ausgehöhlt werden.
Die Organisationen weisen darauf hin, dass die weitgefasste Definition von verdächtigen Ereignissen häufig gerade solche Menschen treffe, die bereits von Stigmatisierung und Marginalisierung betroffen sind, darunter Wohnungslose, die tendenziell mehr Zeit im öffentlichen Raum verbringen. Auch seien »ethnische Minderheiten, – darunter Migrant*innen sowie Schwarze und andere Menschen mit Diskriminierungserfahrungen – am stärksten gefährdet, von bestimmten Überwachungsinstrumenten ins Visier genommen zu werden«, erklärt Agnes Callamard, internationale Generalsekretärin von Amnesty International.
Frankreichs Regierung, Teile des Parlaments und die Industrie insistieren derweil auf der Notwendigkeit solcher Systeme für
die Sicherheit während einer der größten Sportveranstaltungen der Welt. Die Terroranschläge von 2015 lasten weiterhin schwer auf dem Land. Nach Ausschreitungen und Polizeigewalt rund um das Endspiel der Championsleague im Stade de France im vergangenen Jahr waren ebenfalls Rufe nach mehr Überwachung und Gesichtserkennung laut geworden.
Von der Gesichtserkennung hat sich die Regierung aber auf Empfehlung der französischen Datenschutzbehörde in ihrem geplanten Gesetz bereits verabschiedet. In Artikel 7 des Entwurfs heißt es ausdrücklich, dass keine Verarbeitung biometrischer Daten und Gesichtserkennung eingesetzt werde.
Noeme Levain, Juristin bei La Quadrature du Net, ist dazu skeptisch. Algorithmische Videoüberwachung sei ebenso problematisch und berge »die gleichen Risiken für die öffentlichen Freiheiten und die gleichen Möglichkeiten des Missbrauchs durch die Polizeien, deren rassistische Praktiken weithin dokumentiert sind«. In ihrem Offenen
Brief weisen auch die Unterzeichnerorganisationen darauf hin, dass sehr wohl biometrische Daten prozessiert würden. Das Ziel der algorithmischen Videoüberwachung läge schließlich in der Risikoklassifikation von physiologischen Eigenschaften und Verhalten.
Ein klares Signal sendet der Brief auch nach Brüssel. Zurzeit laufen dort Verhandlungen, mit dem »AI Act« einen europaweiten legislativen Rahmen für den Einsatz von KI zu schaffen. Frankreichs Plan, algorithmische Videoüberwachung einzusetzen, könnte damit in Konflikt geraten.
Rund 40 Europaabgeordnete haben die Warnung offenbar bereits ernst genommen. In einem Brief vom 17. März forderten sie die französischen Abgeordneten dazu auf, gegen den Gesetzesentwurf zu stimmen. Zum jetzigen Zeitpunkt unterlaufe der Einsatz der Technologien die Debatte auf europäischer Ebene und erteile »repressiven Regimen auf der ganzen Welt einen Freibrief, dasselbe mit ihren Bürgern zu tun«.
Obwohl der Einsatz als Erprobung gedacht ist und sich auf die Gewährleistung von Sicherheit bei Sport-, Freizeit- und Kulturveranstaltungen beschränkt, befürchten die Unterzeichnerorganisationen und Europaabgeordneten eine Normalisierung der Überwachung über die Spiele hinaus. »Dieses Gesetz ist ein Trojanisches Pferd, um automatisierten Videoschutz im öffentlichen Raum dauerhaft zu installieren«, so die Juristin Levain. Die Tendenz, dass einmal eingeführte Systeme später in den Normalbetrieb übergehen, sei in der wissenschaftlichen Literatur gut belegt.
Laut der französischen Tageszeitung »Le Monde« besteht an der kurz bevorstehenden Annahme des Gesetzes in der Nationalversammlung dennoch kaum Zweifel. Ob es in diesem Fall bei einer Testphase bleibt oder Frankreich tatsächlich zum Vorreiter KI-getriebener Massenüberwachung wird, zeigt sich spätestens 2024. Dann nämlich soll die Regierung einen Evaluationsbericht vorlegen, auf dessen Grundlage das Parlament über die Zukunft des Gesetzes zu entscheiden hat.