Riskante Nebenwirkungen

Künstliche Intelligenz ist auf dem Vormarsch – Ein Rechtsrahmen ist in Arbeit

- Wer den Kinoklassiker 2001 – Odyssee im Weltraum gesehen, oder das jüngste Buch Frank Schätzings gelesen hat, dürfte den Segnungen Künstlicher Intelligenz (KI) mit einiger Skepsis begegnen. „Wenn man von KI redet denkt man immer an Science Fiction“, beklagt Achim Berg, Präsident des Onlineverbandes Bitkom. „Deswegen mag ich diesen Begriff nicht. Wir reden hier ja eher von maschinellem Lernen. Das heißt, ich habe viele Daten vor mir und kann die sehr sauber analysieren.“

Ob beim automatischen Fahren oder der Einparkhilfe, bei der Gesichtserkennung des eigenen Smartphones oder bei der effizienteren Steuerung von Abläufen in Unternehmen: Was unter dem Stichwort Künstlicher Intelligenz firmiert, durchdringt unseren Alltag. Und das kommt zunehmend auch in den Firmen an. Das ist Ergebnis einer Umfrage von Bitkom unter 600 Unternehmen.

So sind die Vorbehalte gegenüber den automatischen Technologien im Vergleich zu früheren Umfragen gesunken: 62 Prozent sehen in Künstlicher Intelligenz mittlerweile eine Chance für ihr Unternehmen, im vergangenen Jahr waren es nur 55 Prozent. Der Digitalverband Bitkom sieht Künstliche Intelligenz als eine der zentralen Zukunftstechnologien, an der kein Unternehmen vorbeikommen dürfte. „Jetzt muss es darum gehen, KI mit noch mehr Schwung in die unternehmerische Praxis zu bringen. Wer erkannt hat, wie wichtig Künstliche Intelligenz schon heute ist und künftig sein wird, sollte jetzt investieren“.

Das erscheint umso sinnvoller, als dass eine Kluft herrscht zwischen der steigenden Akzeptanz der Technologien und ihrem tatsächlichen Einsatz: Nur acht Prozent der Firmen geben an, dass sie KI einsetzen. 60 Prozent sagen, sie haben weder in KI investiert, noch Pläne dies zu tun. Um die Entwicklung zu beschleunigen und das Vertrauen in die neuen Technologien zu stärken, hat die Eukommission einen Entwurf von Vorschriften für Künstliche Intelligenz vorgelegt. Es handelt sich um einen

Rechtsrahmen, der die Sicherheit und Grundrechte von Menschen und Unternehmen in der EU garantieren soll. Zum anderen sollen die Vorschriften die Verbreitung von Kisystemen fördern, die kein derartiges Sicherheitsrisiko darstellen.

Verboten werden sollen beispielsweise „unannehmbare Risiken“, die eine Bedrohung für die Sicherheit, die Rechte und die Lebensgrundlagen der Menschen darstellen könnten. Der Entwurf nennt Anwendungen, die beispielsweise das Verhalten manipulieren können wie Sprachassistenten in Kinderspielzeugen, die Kinder zu gefährlichem Verhalten ermuntern. Auch Systeme, die Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) – wie in China – ermöglichen, soll es nicht geben dürfen. Zu den „hohen Risiken“zählt der Entwurf etwa die Sicherheit im Verkehrssektor, die automatische Gesichtserkennung im öffentlichen Raum oder die Anwendung von KI in Bewerbungsverfahren. Hier sollen hohe Auflagen und strenge Vorgaben gelten. „Bei Künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk“, sagte Margrethe Vestager, die für das Ressort „Ein Europa für das digitale Zeitalter“zuständig ist. „Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist“.

Bei Ki-systemen mit geringem Risiko wie Chatbots müsste den Nutzern gegenüber transparent gemacht werden, dass sie es mit einer Maschine zu tun haben. Die meisten Ki-systeme fallen laut Kommission aber in die Kategorie minimales Risiko, zum Beispiel Spamfilter und Videospiele. Hier will der Gesetzesvorschlag nicht eingreifen. Beraten wird der Vorschlag nun von Europaparlament und Eu-ministerrat.

Justizministerin Christine Lambrecht (SPD) begrüßte den Vorstoß. Er rücke die Grundrechte der Bürger ins Zentrum, erklärte sie in Berlin. „Rechtlich verbindliche und durchsetzbare Regeln, wie sie der Vorschlag enthält, sorgen für Vertrauen, Akzeptanz und Rechtssicherheit und ermöglichen dadurch Innovationen“.

Bei möglichen Regulierungen von Künstlicher Intelligenz allerdings fordert der Digitalverband Bitkom grundsätzlich, mit Augenmaß vorzugehen. Wichtig seien Klarheit und Rechtssicherheit, um sichere und vertrauenswürdige Technologien voran zu bringen. Zu hohe bürokratische Hürden wie Dokumentationspflichten könnten vor allem kleinere Unternehmen überfordern; sie könnten nötige Investitionen in Technologien der Künstlichen Intelligenz verzögern oder gar verhindern.

FOTO: MICHAEL REICHEL/DPA Demonstration eines Sicherheitsroboters des Berliner Unternehmens Ciborius auf dem Erfurter Domplatz: Der Security Roboter ist unter anderem für Kontrollgänge im Wachschutz konzipiert und soll, so die Herstellerfirma, durch den Einsatz von Künstlicher Intelligenz mit jedem Einsatz besser werden.