Massenüberwachung, an Migranten erprobt
Die technischen Möglichkeiten der EU-Grenzagentur Frontex sollen intensiv ausgebaut werden. Dabei setzt sie vermehrt auf Biometrie und Algorithmen. Das sorgt für Kritik – denn künstliche Intelligenz ist nicht neutral.
Die EU will künftig anhand von biometrischen Daten, Drohnen und selbstlernenden Systemen mit künstlicher Intelligenz (KI) ein flächendeckendes Überwachungsnetz gegen Migration schaffen. Bei einem Treffen der EUGrenzagentur Frontex mit Lobbyisten waren nebst Waffenherstellern und anderen Vertretern auch Unternehmen aus der Überwachungsbranche anwesend.
Hintergrund ist der im vergangenen Jahr beschlossene „Migrationspakt“, der vorsieht, Frontex auch technisch weitgehend auszubauen. Gerade im Umgang mit Migration an den Außengrenzen hat die Union ein Spielfeld für die praktische Umsetzung neuartiger Überwachungsmethoden entdeckt: So setzt Frontex schon länger auf Systeme, die von Algorithmen gesteuert werden. Ihr Ziel ist, menschliche Entscheidungsträger zu ersetzen oder diesen eine technologieunterstützte Hilfestellung zu liefern.
Migranten werden dabei überwacht, bevor sie überhaupt an Land gehen. Frontex kooperiert hierfür seit Jahren mit der israelischen Firma Windward. Das Unternehmen, das unter anderem dem ehemaligen CIA-Direktor David Petraeus gehört, trackt Boote im Mittelmeer, indem es Positionsdaten und Wetterinformationen kombiniert. Mit weiteren Daten über Schifffahrtsunternehmen,
Besitzer von Schiffen und Satellitenbildern werden als verdächtig erkannte Schiffe für die Mitarbeiter der Behörde gesondert gekennzeichnet. Grundlage für die Berechnung sind einerseits das Register der Internationalen Seeschifffahrtsorganisation, andererseits gibt das Unternehmen an, eigene Daten zu rund 400.000 Booten zu verwerten. Auch frei verfügbare Daten aus dem Netz würden zum Abgleich zugezogen. Die Informationen werden gemeinsam mit anderer Software verarbeitet. Auf deren Basis versendet die Agentur Berichte an die EU-Kommission, den EU-Rat und andere Grenzbehörden. Hierfür wird das Überwachungsnetzwerk Eurosur angewendet, das von Frontex errichtet wurde.
Lügendetektoren
Künftig sollen zusätzlich große Drohnen und unbemannte Zeppeline Frontex bei der Überwachung am Mittelmeer unterstützen. Weiters sollen die Luftfahrzeuge der Behörde mit unterschiedlichsten Sensoren ausgestattet werden, um Migranten zu erkennen, wenn sie in
schwer durchsuchbaren Umgebungen unterwegs sind – etwa in Wäldern, aber auch nachts oder bei widrigen Wetterbedingungen.
Außerdem wird Frontex die Verwendung von Biometriedaten vorantreiben: So soll ab 2023 jede Person eines Drittstaates, die eine EUAußengrenze passieren möchte, ihre Fingerabdrücke und ein Gesichtsbild hinterlassen. Weiters setzt die EU-Agentur immer mehr auf sogenannte „vorhersagende“Arbeit – sie will also anhand der Systeme Migrationsströme bereits erkennen, bevor diese überhaupt zustande kommen.
Vor dem Ankauf der entsprechenden Hard- und Software traf sich die Agentur laut den durchgesickerten Papieren mit den europäischen Unternehmen Airbus, Indra, Leonardo, GMV, sowie dem japanischen Biometrieunternehmen NEC.
Außerdem sollen Ausländer ab 2023, noch bevor sie eine Grenze übertreten, ihre Reiseroute bekanntgeben. Anhand von automatisierten Systemen werden die Frontex-Mitarbeiter der Behörde dann über als verdächtig erkanntes Verhalten benachrichtigt. Hierbei wird die Mimik analysiert. Die Wirksamkeit derartiger „Lügendetektoren“ist allerdings umstritten. Dennoch sind Gesichts- und Verhaltensanalysen seit Jahren bei Frontex im Einsatz.
Aktuell läuft eine Klage des EUAbgeordneten Patrick Breyer (Piraten) gegen den – nach EU-Angaben – auf KI beruhenden „Video-Lügendetektor“iBorderCtrl. Dieser soll angeblich anhand von Gesichtsausdrücken erkennen, ob Personen beim Beantworten von Fragen lügen. Das System wurde an den Außengrenzen im Testbetrieb erprobt.
Das Verfahren vor dem EuGH läuft noch. Breyer will vor allem wissen, wie die Software ethisch bewertet wurde, auf welcher Rechtsgrundlage sie basiert, wie sie beworben wird und zu welchen Ergebnissen sie während des Testzeitraums gekommen ist. „Die Europäische Union finanziert immer wieder illegale Technologie, die die Grundrechte verletzt und unethisch ist“, kritisiert Breyer. Aus seiner Sicht handelt es sich um eine „pseudowissenschaftliche“
Entwicklung, die anhand der Transparenzklage offengelegt werden soll.
Die Juristin Petra Molnar, die unter anderem gemeinsam mit der Bürgerrechtsorganisation Edri einen Bericht zu Überwachung an den Grenzen veröffentlicht hat, kritisiert die EU-Agentur: „Frontex positioniert sich schon lange als führende Institution zur Überwachung von Europas Grenzen“, sagt sie zum STANDARD. Die jüngsten Entwicklungen würden die „tiefgreifenden Einschnitte“in die Menschenrechte zeigen, mit denen jene konfrontiert seien, die sich sowieso an der „scharfen Kante technologischer Entwicklungen“befänden.
Algorithmen sind befangen
KI sei niemals neutral. Das hat damit zu tun, dass im Regelfall auf Informationen aus der Vergangenheit gesetzt wird, um derartige Systeme zu trainieren. Gab es unfaire Entscheidungen, würden diese fortgesetzt und weiter bestärkt, erklärt Molnar. „Rassismus und Diskriminierung wird durch voreingenommene Datensätze weitergeführt“, sagt die Juristin. „Die Hybris von ‚Big Tech‘ und die Verlockung schneller Lösungen ignorieren die systemischen Probleme, derentwegen Gruppierungen erst gezwungen werden, zu migrieren“, kritisiert sie.