EU will Bürger vor Überwachung schützen

Künstliche Intelligenz. Die EU-Kommission hat einen Erstentwurf für eine neue Verordnung zum Umgang mit Gesichtserkennung, sozialer Überwachung, Manipulation und neuen Methoden für öffentliche Sicherheit vorgelegt. Ein Überblick.

Brüssel/Wien. Selbstfahrende Autos, digitale Verwaltung und neue Technologien in Bildung und Wissenschaft zählen zu den großen Erwartungen an die Digitalisierung. Doch es gibt auch Hochrisikofelder, in denen bisher als selbstverständlich erachtete Freiheitsrechte in Gefahr geraten. Für diese Bereiche hat die EU-Kommission am Mittwoch einen Erstentwurf für eine Verordnung vorgelegt, die ähnlich wie die Datenschutzverordnung zu einem weltweiten Standard in diesem Sektor werden soll. „Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen“, betonte die zuständige Vizepräsidentin der EU-Kommission, Margrethe Vestager, bei der Präsentation. „Die Presse“arbeitete die wichtigsten Punkte der Verordnung auf:

1 Wo liegen die Gefahren einer sozialen Überwachung und welche Grenzen sind notwendig?

Künstliche Intelligenz bietet zahlreiche Möglichkeiten, Menschen und ihr Verhalten zu beaufsichtigen. China setzt diese Technologien bereits ein, um eine umfassende Überwachung, Bewertung und Pönalisierung von sozialem Verhalten vorzunehmen. Wer sich sozial, aber auch politisch sittenkonform verhält, wird belohnt, wer nicht, bestraft. Die Anwendungsbereiche sind vielfältig und könnten beispielsweise bei Sozialversicherungen eingesetzt werden. Wer raucht, trinkt oder wenig Sport betreibt, könnte durch höhere Beiträge oder höhere Steuern sanktioniert werden. Insbesondere durch Gesichtserkennung wird es möglich, Sozialkontakte, zu überwachen, ein berufliches und privates Leben nachzuverfolgen. Was in einer Pandemien manche als Notwendigkeit argumentieren, ist ein tiefer Einschnitt in die Selbstbestimmung und Freiheit des Menschen. Die EU-Kommission will solches „Social Scoring“deshalb grundsätzlich verbieten.

2 Darf künstliche Intelligenz menschliches Verhalten beeinflussen?

Zu den Systemen künstlicher Intelligenz, die von der Kommission als jene mit einem „unannehmbaren Risiko“bewertet und damit verboten werden, zählen auch jene zur Manipulation menschlichen Verhaltens: Sie zielen darauf ab, den freien Willen der Nutzer zu umgehen, und sind somit nicht mit den europäischen Lebensgrundlagen und Menschenrechten vereinbar. Es handelt sich dabei um Techniken zur unterschwelligen Beeinflussung von Meinungen und Entscheidungen. Dazu zählt auch Spielzeug, das Minderjährige per Sprachassistent zu gefährlichem Verhalten ermuntert.

3 Ist Gesichtserkennungssoftware im öffentlichen Raum zulässig?

Die öffentliche Sicherheit ist ein Bereich, dem sich kein Bürger entziehen kann und der somit wohl auch in der bevorstehenden Debatte zwischen Mitgliedstaaten und Europaparlament heftig diskutiert werden dürfte. Laut Kommissionsvorschlag soll die biometrische Gesichtserkennung zu Strafverfolgungszwecken im öffentlichen Raum grundsätzlich verboten werden. Allerdings gibt es Ausnahmen: Dazu zählen etwa die Suche nach einem vermissten Kind oder die Abwendung einer terroristischen Bedrohung. In so einem Fall muss die Justizbehörde oder eine andere unabhängige Stelle die zeitlich und geografisch beschränkte Nutzung allerdings genehmigen. Auch beim Einsatz künstlicher Intelligenz in der Grenzkontrolle – beispielsweise zur Verifizierung der Echtheit von Pässen – oder im Straßenverkehr sollen strenge Vorgaben vor einer etwaigen Marktzulassung gelten.

4 Welche Gefahren künstlicher Intelligenz gibt es im privaten Bereich?

Für die meisten Systeme künstlicher Intelligenz im privaten Bereich gilt laut Kommissionsvorschlag hingegen lediglich ein minimales Risiko. Ohne Auflagen genutzt werden können etwa Videospiele oder Spamfilter, da sie keine Gefahr für Bürgerrechte oder die Sicherheit darstellen. Besondere Transparenzverpflichtungen sollen hingegen für Anwendungen wie Chatbots – also Roboter, die mittels Chat mit einem Kunden kommunizieren – gelten.

5 Welche Sanktionen sieht der EU-Entwurf bei Verstößen vor?

Ein direkter Eingriff in neue Technologien und ihre Anwendung kann nur mit klaren Sanktionen funktionieren. Die EU-Kommission sieht deshalb in ihrem Entwurf erhebliche Strafen vor, wenn sich europäische oder internationale Anwender der neuen künstlichen Intelligenz nicht an das Regelwerk halten. Der Einsatz von verbotenen Anwendungen, Fehlinformation oder mangelnde Kooperation mit Behörden sollen jeweils mit Strafen von bis zu vier Prozent des weltweiten Jahresumsatzes oder mindestens 20 Millionen Euro geahndet werden.