Plötzlich im Porno
Deep Fakes sind manipulierte Videoaufnahmen und schaden überwiegend Frauen
(epd) - Vor allem trifft es Frauen: Ihre Gesichter werden in Pornofilme kopiert - täuschend echt. Deep Fakes schaden bisher vor allem Einzelnen, gelten aber auch als mögliches Mittel für politische Desinformation.
Agnieszka Maria Walorska hat für die FDP-nahe Friedrich-NaumannStiftung ein wissenschaftliches Paper zu Deep Fakes verfasst. Ihr zufolge fallen diesen vor allem prominente Frauen zum Opfer, weil von diesen viele Daten wie Fotos, Videos oder Stimmaufnahmen existierten. „Je mehr davon vorhanden ist, umso einfacher ist es, ein glaubwürdiges Erscheinungsbild ins Video zu integrieren“, erklärt Walorska.
Deep Fakes sind manipulierte Videos oder Audioaufnahmen, die täuschend echt wirken. Kein verruckeltes Bild, keine harten Schnitte - mittels Künstlicher Intelligenz wird der Zuschauer oder Hörer hinters Licht geführt. Dank komplexer Algorithmen, riesiger Datenmengen und „deep learning“können selbst Laien mit den richtigen Apps täuschend echt wirkende Video-, Audio- und Sprachsequenzen erstellen, sagt Walorska, Gründerin der Berliner Digitalagentur Creative Construction.
Insbesondere Bilder von Gesichtern werden verwendet, auf Bildmaterial anderer Personen gelegt - und damit beispielsweise künstlich in Videos eingesetzt. So lassen sich im Netz Tausende anscheinend echter Pornofilme finden, in denen die Gesichter der Darstellerinnen durch reinkopierte Porträts anderer Frauen ersetzt wurden. „Das kann sehr, sehr schnell jede Frau treffen“, sagt Walorska.
Deep Fakes seien eine Methode der bildbasierten sexualisierten digitalen Gewalt, sagt auch Jenny-Kerstin Bauer, Referentin für Pressearbeit beim Bundesverband Frauenberatungsstellen und Frauennotrufe (bff).
Wer Opfer von Deep Fakes sei, könne sich bei einer der vielen Beratungsstellen des bff Unterstützung holen. Ein nächster Schritt könne sein, Screenshots anzufertigen und zu dokumentieren, wer die Aufnahmen hochgeladen oder weiterverbreitet hat. Dann könnten Webseiten-Betreiber kontaktiert und zum Löschen der Bilder aufgefordert werden. Zudem könne eine Anwältin helfen, zivilrechtliche Unterlassungsansprüche zu klären, rät Bauer.
Deep Fakes seien ein relativ neues Phänomen, sagt der Rechtsanwalt für Datenschutzrecht Tim Schneider von der Berliner Rechtsanwaltskanzlei Schürmann Rosenthal Dreyer. Zumindest
in Deutschland gebe es keine expliziten Regelungen zum Umgang mit ihnen, doch oft stellten sie wegen der Verwendung von fremdem Bildmaterial Verstöße gegen das Urheberrecht dar. „Generell ist es hier immer möglich, Anzeige zu erstatten“, sagt Schneider. Sollte der Urheber des Deep Fake ermittelt werden können, bestehe auch die Möglichkeit, Schadensersatz zu verlangen. Zudem seien YouTube, Facebook oder Twitter angehalten, Fälschungen auf ihren Plattformen zu unterbinden, indem automatisierte Erkennungstechniken für gefälschte Videos eingesetzt würden. Zwar will Facebook auf Anfrage nicht preisgeben, wie viele Videos nach einer Prüfung auf seiner Plattform als Deep Fakes ausgemacht werden konnten, stellt aber in Aussicht, Technologien zur besseren Erkennung von manipulierten Medien zu entwickeln. Was fehlt, um Manipulationen mittels Künstlicher Intelligenz systematisch zu unterbinden, seien präzise Regulierungen von staatlicher Seite für alle Netzwerke, sagt Walorska: „Im Moment macht jedes sein eigenes Ding.“
Wenn es um Deep Fakes geht, fällt immer wieder auch das Schlagwort der „politischen Desinformation“. „Ist es denkbar, dass es mit einer entsprechenden Audiospur so wirkt, als hätte eine Person etwas gesagt, was sie nie gesagt hat?“, fragt etwa das Kölner Science Media Center. „Vor allem in Kombination mit Software zum Imitieren von Stimmen werde diese Technologie oft als gefährlich für die Demokratie angesehen, da solche Fälschungen im politischen Kontext enorme Wirkungen entfalten könnten“, heißt es weiter.
Walorska betont hingegen, dass sich der Anteil der Deep Fakes, die der politischen Desinformation zuzurechnen seien und damit eine Gefahr für die Demokratie darstellten, maximal in einem sehr kleinen einstelligen Prozentbereich bewegten. Doch es reiche bloß ein gefälschtes Video, um großen Schaden anzurichten. Denn normalerweise schreibe man Videos, Bildern und Tonspuren eine besondere Authentizität zu.
Allerdings müsse nicht jeder Deep Fake auch schädigend sein, sagt Anwalt Schneider. „Es kann sich dabei auch um Mittel der Meinungsäußerung oder um künstlerische Werke handeln. Beides ist von den Grundrechten besonders geschützt.“Für Walorska sind Deep Fakes vor allem ein Beispiel, wie Frauen - zumeist von Männern - gesellschaftlich objektiviert werden. So erklärt sie sich auch das aus ihrer Sicht bislang verhaltene Interesse, Deep Fakes politisch oder juristisch stärker in den Blick zu nehmen.
Die Digitalexpertin fühlt sich in dieser Position bestätigt durch die Antwort der Bundesregierung auf eine Kleine Anfrage der FDP-Bundestagsfraktion vom Dezember 2019. Darin ist zu lesen, dass die Bundesregierung Deep Fakes bisher nur mit „generell-abstrakten Regelungen“begegnet. „Aus den Antworten der Bundesregierung lassen sich bislang weder eine konkrete Strategie noch eine Investitionsabsicht ableiten“, kritisiert Walorska. Sie ist sich sicher: Solange 97 Prozent der Betroffenen Frauen sind, würden Deep Fakes als Problem nicht ernst genommen.