Kommt die Chatkontrolle doch noch?
Die EU-Verordnung zur Bekämpfung von Kindesmissbrauch soll offenbar heute in der Chamber verabschiedet werden. Die alten Probleme scheinen weiter ungelöst
Eigentlich hatte der Piraten-Abgeordnete Sven Clement die Aktualitätsstunde zur Chatkontrolle gegen sexualisierte Gewalt bereits Ende Februar angefragt, am heutigen Donnerstag soll sie in der Chamber stattfinden. Keine Minute zu spät, weil die belgische Ratspräsidentschaft sich offenbar in den Kopf gesetzt hat, die umstrittene Verordnung doch noch durchzubringen.
Worum geht es?
Ebenfalls Ende Februar hatte das Onlineportal Netzpolitik.org von einem erneuten Anlauf unter belgischer Führung berichtet. Die EU-Kommission plant schon länger im Kampf gegen Kindesmissbrauch Online-Plattformen dazu anzuhalten, Kommunikationen im Netz stärker auf strafrechtlich relevante Inhalte zu kontrollieren. Einen ersten Entwurf präsentierte sie im Frühjahr 2022, auf denen ganz unterschiedliche Reaktionen folgte.
Von Kinderrechtsorganisationen war ihr Vorschlag grundsätzlich begrüßt worden, darunter Ecpat Luxemburg. Der Chaos Computer Club Luxemburg und Datenschützer dagegen hatten vor der Chat-Kontrolle gewarnt. Das Grundrecht auf Privatsphäre sei in Gefahr.
Nach massivem Widerstand der Zivilgesellschaft und von EU-Mitgliedsländern wie Deutschland, Polen, Österreich und war das Vorhaben zunächst auf Eis gelegt worden.
Was sieht der neue Anlauf aus Brüssel vor?
Laut dem neuen Vorschlag aus Brüssel, der bisher nicht in einen konkreten Text gemündet ist, soll eine von den Internet-Unternehmen vorzunehmende gestufte Risikoanalyse (von „vernachlässigbar“bis „hohes Risiko“) dazu führen, dass Kommunikationsdienste wie Whatsapp, Signal und andere doch auf verdächtige Inhalte und auf CSAM (child sexual abuse material) gescannt werden können.
Stellt eine Plattform ein hohes Risiko dar, sollen sogenannte Standard-Anordnungen es möglich machen, auch deren Ende-zu-Endeverschlüsselte Kommunikationen einzusehen und auf Missbrauchsmaterial zu durchsuchen. Diese wären an ein neu gegründetes EUZentrum weiterzuleiten. Plattformen mit einem mittleren Risiko kämen mit einer eingeschränkten Anordnung davon. Sie könnte zeitlich befristet gelten und nur öffentliche Kommunikation umfassen oder für Teile des Dienstes gelten.
Kritiker dürfte dieser Weg aber kaum zufriedenstellen: Denn technisch bedeutet dies, dass Anbieter gewissermaßen vor der Verschlüsselung die Inhalte scannen müssten, also auf den Geräten der Nutzerinnen und Nutzer. „Außerdem würde das bedeuten, eine solche Risikoeinschätzung privaten Firmen zu überlassen“, warnt Sven Clement im Gespräch
mit dem „Wort“. Der Pirat sieht zudem Grundrechte wie die Privatsphäre berührt und hat deshalb die Aktualitätsstunde angefragt.
Wie sicher ist die Client-Side-Technologie?
Die Technologie des Client-Side-Scanning wird auch von Wissenschaftlern kritisch gesehen. Den Gesetzentwurf der Kommission zu verabschieden, „untergräbt die durchdachte und bedeutende Arbeit“, die europäische Forschende zur Cybersicherheit und zum Datenschutz geleistet haben, inklusive ihrer Beiträge zur Entwicklung globaler Verschlüsselungsstandards, so formulierte ein offener Brief im Juli, den 300 Forschende unterschrieben haben, darunter vier aus Luxemburg.
Forscher warnen, die derzeit verfügbaren Scanning-Technologien seien mit erheblichen Mängeln behaftet. Zum Beispiel mit falsch positiven Fehlern, die dazu führen könnten, dass unschuldige Nutzer bezichtigt
Kommt die risikobasierte Chatkontrolle, würde das bedeuten, eine solche Risikoeinschätzung privaten Firmen zu überlassen. Sven Clement, Abgeordneter der Piratenpartei
würden. Sven Clement nennt als Beispiel: „Wenn ich Bilder meiner Tochter mit meiner Frau teile, könnten diese fälschlich als riskant eingestuft werden, auch wenn es sich um private Badebilder handelt.“Somit wäre die Vertraulichkeit aufgehoben.
Künstliche Intelligenz im Kampf gegen Kindesmissbrauch?
Verschiedene Internetfirmen haben bereits KI-basierte Werkzeuge im Kampf gegen Cyber-Grooming entwickelt, also gegen Erwachsene, die sich in Online-Foren und Chats an Kinder heranschleichen und sie manipulieren, um sie sexuell auszunutzen. Ihre Funktionsweise ist jedoch so geheim, dass eine Kontrolle von außen schwer möglich sei, warnen Forscher. Außerdem ist KI nicht frei von Fehlern, weil ihnen der Kontext und der „gesunde Menschenverstand“fehlten.
„Wir warnen daher eindringlich davor, diese oder ähnliche Maßnahmen zu verfolgen. Ihr Erfolg angesichts der aktuell verfügbaren und absehbaren Technologie ist ausgeschlossen und ihr Schadenspotenzial erheblich“, hieß es zusammenfassend in dem Brief.
Die bisherige Haltung der Luxemburger Regierung
Die ehemalige Justizministerin Sam Tanson (Déi Gréng) hatte in einer Chamber-Debatte im Juni 2022 Abstand genommen von der Chatkontrolle und den Entwurf der Brüsseler Kommission als „extrem problematisch“bezeichnet. Weil sie „an sich eine generalisierte Forderung ist, alles zu kontrollieren, was verschickt wird, auch ohne dass ein konkreter Verstoß vorliegt“.
LW-Informationen zufolge befürwortete Justizministerin Elisabeth Margue (CSV) die Aktualitätsstunde zu einem späteren Zeitpunkt, weil der belgische Textvorschlag noch nicht vorliege, sondern lediglich „große Linien“. Eine Arbeitsgruppe im EU-Rat soll sich mit neuen Textvorschlägen befassen. Fragen zur Regierungsposition wird Margue heute den Abgeordneten erläutern. Es ist das erste Mal, dass die CSV/DP-Regierung zu dem Thema öffentlich Stellung bezieht.
Charel Weiler von der CSV geht davon aus, dass sich die Haltung nicht grundsätzlich ändern wird. Noch sei ihm kein neuer Text aus Brüssel bekannt, aber es gehe weiter um die „die schwierige Balance zwischen Sicherheit und Freiheit“, sagte der Abgeordnete dem „Wort“. Er bezweifelt, dass der neue Vorstoß „der richtige Weg“sei.