Parlament gab den Weg frei für das erste KI-Regelwerk

Fälschung oder Realität? Die Frage soll sich beim Anblick von mit künstlicher Intelligenz generierten Bildern und Videos im Netz erübrigen. Das und noch viel mehr schreibt ein neues EU-Gesetz vor.

Mittwochmittag brandete kurz Applaus auf im Plenarsaal des Europäischen Parlaments in Straßburg. Der Beifall der Abgeordneten galt ihnen quasi selbst: Sie hatten gerade mit großer Mehrheit – 523 dafür, 46 dagegen – dem EU-Gesetz für die Regulierung künstlicher Intelligenz (KI) zugestimmt. Der finale Text war im Dezember in zähen Verhandlungen mit den Mitgliedsstaaten fixiert worden. Von historisch bis global wegweisend: Schon nach dieser Einigung übertrafen sich EU-Spitzenpolitiker mit Superlativen über das erste KI-Regulativ weltweit.

Die Verordnung soll je nach Risikostufe den Einsatz beschränken. Verboten wird die KI in Bereichen, in denen Bürgerrechte gefährdet werden könnten. Beispiele sind die biometrische Kategorisierung von Menschen, Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie Bewertungen des Sozialverhaltens. Das gilt auch für präventive polizeiliche Ermittlungen. Experimente wie jenes, das im Februar in London bekannt wurde, wo die Polizei in einer U-Bahn-Station versuchsweise KI zur Hilfe nahm, um gefährliche Situationen frühzeitig zu erkennen, wären innerhalb der EU wohl nur schwer mit den neuen Regeln vereinbar.

Ausnahmen gibt es für Strafverfolgungsbehörden. Die biometrische Fernidentifizierung in Echtzeit via Überwachungskameras, die grundsätzlich untersagt ist, soll dann erlaubt sein, wenn dafür gesonderte behördliche oder gerichtliche Genehmigungen eingeholt werden. Mögliche Ausnahmen wären die Suche nach Vermissten oder Terrorverdächtigen.

Die KI-Regulierung zielt auch auf Hochrisikosysteme ab, die in kritischen Bereichen wie im Gesundheits-,

Banken- und Bildungswesen, in der Justiz, im Migrations- und Grenzmanagement zur Anwendung kommen. „Solche Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden“, teilte das EU-Parlament mit.

Zentrales Element des Regulativs sind Transparenzregeln. KI-generierte Bilder, die schon jetzt die sozialen Medien fluten, müssen künftig gekennzeichnet werden. Das gilt auch für gefälschte Audio- und Videodateien,

sogenannte Deepfakes. Wie exekutierbar diese Vorgaben sind, bleibt offen.

Gleichzeitig hat sich das Parlament am Mittwoch ebenfalls mit großer Mehrheit für einen besseren Schutz von Medien und deren Quellen ausgesprochen. Das Medienfreiheitsgesetz, ebenfalls eine Verordnung, soll deren Unabhängigkeit stärken, mehr Transparenz bei der Zuweisung öffentlicher Inserate und besseren Schutz für Journalistinnen und Journalisten bringen.

Betreffend die KI-Regulierung sprach der italienische Sozialdemokrat Brando Benifei, Berichterstatter des Binnenmarktausschusses, vom „ersten verbindlichen Gesetz, um Risiken zu reduzieren, Chancen zu schaffen, Diskriminierung zu bekämpfen und Transparenz zu gewährleisten“. Theresa Bielowski (SPÖ) verwies auf die Auswüchse in China mit dessen Sozialkreditsystem: „Genau solche Anwendungen und jene von biometrischer Gesichtserkennungssoftware sollen daher verboten werden.“

Barbara Thaler (ÖVP) appellierte hingegen dafür, keine Risiken zu scheuen, sondern das Potenzial zu nutzen. Das sei die Grundlage, „damit die EU mit den USA und China konkurrieren kann“. Bedenken, dass die KI-Regulierung dem zuwiderlaufen könnte, äußerte etwa der Bundesverband der Deutschen Industrie. Europa könnte im Wettbewerb um die Schlüsseltechnologie in das Hintertreffen geraten.

Dem will die Regulierung auch dadurch zuvorkommen, indem sie den Mitgliedsstaaten vorschreibt, „Reallabore“einzurichten, wo kleine und mittlere Unternehmen ihre KI-Systeme testen können, bevor sie kommerziell genutzt werden. Binnenmarktkommissar Thierry Breton ließ nach der Abstimmung via Kurznachrichtendienst X wissen: „Wie regulieren so wenig wie möglich – aber so viel wie nötig.“

Einwände äußerten nicht nur Wirtschaftsvertreter, sondern auch Verbraucherschützer, die der EU vorwarfen, zu sehr auf den Selbstregulierungswillen der Unternehmen zu vertrauen. Die Abgeordnete Cornelia Ernst von der deutschen Linkspartei kritisierte, dass das Parlament nachgegeben und im finalen Gesetzestext zu viele Ausnahmen zugelassen habe. Eine „Riesenlücke“sieht Ernst darin, dass KISysteme für den Einsatz im Migrationskontext nicht von vornherein ausgeschlossen sind. „Damit werden Menschen auf der Flucht zu Versuchskaninchen und die EUAußengrenzen zum Testlabor gemacht. Das ist inakzeptabel.“

„Wir regulieren so wenig wie möglich, aber so viel wie nötig.“Thierry Breton, EU-Kommissar