Kontrolliert die Maschinen

Künstliche Intelligenz ist nicht neutral. Das kann sie gar nicht sein, denn damit gemeint sind in den meisten Fällen maschinenlernende Systeme. Sie treffen Entscheidungen basierend auf jenen Daten, mit denen sie „trainiert“wurden, etwa historischen Informationen. Das heißt aber auch, dass sie menschliches Scheitern – etwa Diskriminierung – auf diese Weise reproduzieren. Daher sind die Pläne der EU zu einer umfassenden Regulierung von KI dringend notwendig.

Zwar befasst sich die Forschung seit Jahren mit der Problematik, aber aktuell bleiben die Systeme immer noch eine Blackbox: So ist etwa bekannt, mit welchen Informationen sie zu einem Ergebnis gelangt sind, und auch, wie dieses lautet. Aber niemand weiß so recht, wie dieses Ziel erreicht wurde. Das öffnet Tür und Tor für schwer nachvollziehbare Fehler. Gerade wenn es darum geht, mögliche Rechtsverstöße zu eruieren, darf es aber keine Zweifel geben. Diesen Aspekt hat die Kommission aber nicht bedacht, indem sie in ihrem Entwurf die Nutzung von KI zur staatlichen Überwachung weiterhin erlaubt, sofern eine gesetzliche Grundlage besteht. Damit hat sie eine Chance verpasst, eine EU zu präsentieren, die gleichermaßen zukunftsfähig ist und dennoch einen großen Wert auf Grundrechte legt. Technologie darf nicht die Lösung für „eh alles“sein. Nur weil sie etwas möglich macht, heißt das nicht, dass es eine gute Idee ist. Das sollten die Verantwortlichen vor der Verabschiedung des Gesetzes noch bedenken.