GEFAHREN DURCH KI

Autonome Kriegsdrohnen, Fake-Videos, Totalüberwachung: KI kann Horrorszenarien Wirklichkeit werden lassen – auch ohne sonderlich intelligent zu sein.

Erkennen, bewerten und einsortieren – künstliche Intelligenz scheint wenig bedrohlich. Doch Technologie-Visionär Elon Musk (SpaceX, Tesla) warnt eindringlich vor KI, die „viel gefährlicher als Atomwaffen“sei.

Projekt Maven

Warum Warnungen nötig sind, zeigt das von Teilen der Google-Belegschaft abgelehnte Projekt Maven des US-Verteidigungsministeriums. Bei der Entwicklung der Militärdrohnen wollte Google Know-how bei der Integration der eigenen KI-Software Tensor Flow beisteuern. Mit KI können Drohnen weit autonomer in Kriegssituationen agieren. Mit den verantwortlichen Personen fallen aber auch ethische Hemmungen bei Kampfhandlungen weg. Google hat die Mitarbeit mittlerweile gestoppt. CEO Sundar Pichai stellte im Blog sogar sieben Regeln für KI auf, die den alten Google-Geist von „Don’t be evil“reflektieren. Ob sie durchzusetzen sind, ist freilich fraglich.

Social Scoring

Ideal scheint künstliche Intelligenz auch für das Ende letzten Jahres in die Schlagzeilen geratene chinesische Sozialkredit-System. Über die Beurteilung von Kreditwürdigkeit, Zahlungsmoral, Strafregister und viele andere Informationen soll ab 2020 jeder Bürger verpflichtend einer sozialen Bewertung unterzogen werden. Die beeinflusst mutmaßlich seine Perspektive in ökonomischer, juristischer und sozialer Hinsicht. KI könnte ein solches System sehr engmaschig knüpfen und Aufenthaltsorte, Aktivitäten, soziales Umfeld und mehr in das Social Scoring einbeziehen. Jeder Mensch müsste sich überlegen, ob er sich Perspektiven verbaut, indem er sich etwa mit mutmaßlich als politisch oder moralisch zweifelhaft geltenden Personen einlässt. Schon ungesunde Ernährung oder trägen Lebenswandel könnte eine KI leicht über Einkaufsverhalten und Bewegungsprofil erkennen, Abwertung inklusive. So ließe sich jede Abweichung von der staatlich verordneten Norm erkennen und sanktionieren, was die Selbstzensur in Form von vorausschauendem Wohlverhalten fördert.

Deep Fakes

Auch auf anderen Wegen kann KI Einfluss gewinnen. Spätestens seit 2017 kursieren Pornos, in die Gesichter von Prominenten montiert werden. Bei Deep Fakes wird aus tausend und mehr Gesichtsfotos das realistische Gesicht mitsamt Mimik berechnet, das dieser in einer völlig anderen Situation hätte. Deep-Fake-Spezialisten haben bewiesen, dass mit dieser Technik auch ein Barack Obama zu erschaffen ist, der Donald Trump beleidigt, oder eine Angela Merkel, die Erdogan entwürdigt. Damit lassen sich bald leichtgläubige Menschen in jede beliebige Richtung beeinflussen, Skeptiker verlieren den Glauben an jede Information.