Rote Linien für die Künstliche Intelligenz
Kurz vor Toresschluss bringen die EU- Gesetzgeber ein Projekt ins Ziel, das sich auf jeden Europäer und die gesamte europäische Wirtschaft auswirken wird. Es soll verhindern, dass die Menschheit unter die Räder der Künstlichen Intelligenz gerät.
Es ist 12.14 Uhr am Mittwoch im Straßburger Plenarsaal des Europaparlamentes, als die Künstliche Intelligenz Geschichte schreibt. Zumindest massiv daran mitwirkt. Dauerten wichtige Entscheidungen in früheren Zeiten oft Stunden, bis alle Ergebnisse über die namentlich dokumentierten Voten jedes einzelnen Abgeordneten vorlagen, eröffnet Parlamentspräsidentin Roberta Metsola die Abstimmung nun 15 Sekunden nach 12.14 Uhr, beendet sie drei Sekunden später und verkündet das Ergebnis weitere vier Sekunden später. Gleichzeitig blinken auf Displays an der Stirnseite des Plenarsaales 705 Punkte auf, die die Sitzreihen wiedergeben: 523 grüne auf all den Plätzen, an denen Abgeordnete zugestimmt haben, 46 rote mit den Nein-Stimmen, 49 weiße mit den Enthaltungen und 87 blaue mit denen, die die Abstimmung verpassten. Die KI hat wieder mal schnelle, zuverlässige, nachprüfbare, das Leben beschleunigende Arbeit geleistet – und dieses Mal die Politik darin unterstützt, die KI zu beschränken.
Es ist die weltweit erste KI-Reglementierung, die die Parlamentarier soeben beschlossen haben. Und eigentlich ist es erstaunlich, dass sie ausgerechnet aus der EU kommt. Also aus jenem Kontinent, dessen politische Vertreter, wissenschaftliche Forscher und technische Anwender sich bei der Meinungsbildung über das KI-Gesetz sehr klar darüber wurden, hinter den Entwicklungen etwa in Asien oder Amerika weit hinterherzuhinken. Doch dass auch der europäische Alltag von immer mehr KI beherrscht und gesteuert wird, wurde bei den Beratungen seit dem Start der Gesetzesinitiative knapp drei Jahre zuvor ebenfalls mit Händen greifbar – verbunden mit finstersten Befürchtungen, wonach die gesamte Menschheit unter die Räder der KI geraten könnte.
Genau hier will die EU eingreifen. Sie hat sich eine Stufenlösung ausgedacht, wonach unverdächtige KI sorglos eingesetzt werden kann, Anwendungen mit dem Potenzial einer Verletzung von Persönlichkeits- und Freiheitsrechten um so intensiver mit Auflagen belegt werden, je größer die Risiken sind. Und es gibt rote Linien, hinter denen die EU KI-Programme auch komplett verbietet: Zum Beispiel bei der permanenten Überwachung und Sanktionierung sozialen Verhaltens, wie es China in großem Stil verfolgt.
Weit weg von europäischer Realität? Bei den Beratungen in den vergangenen Monaten wirkten jedenfalls auch bislang sorglose Experten plötzlich sehr aufgewühlt, wenn sie erkannten, welches Potenzial hinter ihren Programmen steckt und welche Auflagen auf sie zukommen – bis hin zur Verpflichtung, ihr Angebot stark zu überarbeiten oder wieder vom Markt zu nehmen.
Inakzeptable Risiken betreffen nicht nur die soziale Überwachung und Sanktionierung, sondern zum Beispiel auch Spielzeug, das mit den Kindern „spricht“, auf ihre Fragen reagiert und etwa zu gefährlichem Verhalten animiert. Auf der Ebene darunter geht es bei Hochrisiko-KI um solche Programme, die automatisiert Vorentscheidungen über etwa das Bleiberecht von Flüchtlingen, den Zugang zu Ausbildungsplätzen, die Bewilligung von Krediten oder das Auslösen von Strafverfolgung treffen. Hier gibt es die intensivsten Auflagen bis hin zu der Bestimmung, dass Gesichtserkennungssoftware nur unter bestimmten Ausnahmebedingungen eingesetzt werden darf. Am Ende der Risiko-Pyramide stehen die begrenzten oder auszuschließenden Gefahren. Da reicht es dann etwa, dass die Nutzer einer Hotline darauf hingewiesen müssen, dass sie jetzt nicht mit einem Menschen, sondern mit einer Maschine kommunizieren.
Doch ganz genau lässt sich die Auswirkung des KI-Gesetzes noch nicht für jeden Einzelfall absehen. Denn erst einmal muss die EU-Kommission Anwendungsvorschriften erlassen, dann jeder Mitgliedsstaat für seinen eigenen Bereich die Umsetzung beschließen. Die große Mehrheit bei der Abstimmung am Mittwoch scheint also mehr der Absicht zu folgen, das Thema besser jetzt als nie anzugehen, um die KI an die Leine zu legen.
CDU-Digitalexperte Axel Voss etwa wertet es als positiv, mit dem Rechtsakt einen ständigen Dialog mit den Beteiligten und Anwendern gestartet zu haben, hegt jedoch weiterhin Zweifel, ob der Text wirklich geeignet ist, „eine sich ständig weiterentwickelnde Technik zu regulieren“. Nur wenn der öffentliche und private Sektor bei der Ausgestaltung in den nächsten Monaten sehr gut zusammenarbeiteten, könne die EURegulierung zur Erfolgsgeschichte werden.
Die FDP-Binnenmarktexpertin Svenja Hahn hätte sich „mehr Freude an Innovation und noch stärkeren Schutz von Bürgerrechten gewünscht“. Und die Linken-Datenschutzexpertin Cornelia Ernst kritisiert, dass sich die Mitgliedsländer damit hätten durchsetzen können, das Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum durch eine lange Liste von Ausnahmen faktisch zu kippen.