Gefährlich realistisch
Mit Künstlicher Intelligenz lassen sich Abbilder von echten Menschen in jeden beliebigen Zusammenhang montieren. Diese sogenannten Deepfakes bergen große Risiken, aber auch Chancen.
Fälscher von Kunstwerken, die einst Berühmtheiten wie Michelangelo, Albrecht Dürer, Jan Vermeer, Leonardo da Vinci oder Rembrandt van Rijn im Original erschufen, sind oder waren auf ihre Weise bemerkenswerte Künstler. Inspiriert vom Genie anderer, kopierten sie den Stil und die Technik ihrer Vorbilder derart perfekt, dass selbst hochrangige Kunstexperten die Nachahmung nicht bemerkten, wenn sie die Frage aller Fragen zu beantworten hatten: „Ist das echt?“
Die meisten Fälscher taten es, um mit ihren Plagiaten ordentlich Kasse zu machen, wie etwa das deutsche Ehepaar Wolfgang und Helene Beltracchi. Andere, wie der Brite Tom Keating, beabsichtigten, der Welt zu zeigen, wie fehlerhaft der Kunstbetrieb war. Keating hinterließ bewusst eine Art von „Zeitbomben“in seinen Werken – kleine Hinweise, die sie irgendwann als nicht echt entlarven würden.
Dass da Vincis Mona Lisa einmal ihr starres, geheimnisvolles Lächeln ablegen und sich mit täuschend echter Mimik dem Betrachter am Bildschirm zuwenden würde, Worte formulierend, die Stirn runzelnd, die Augen rollend, das hätte die Fälscher alter Schule ratlos zurückgelassen. Nicht menschliche, sondern Künstliche Intelligenz (KI) war da animierend am Werk, technisch unmöglich zu verstehen, faszinierend zweifellos, aber wozu? Die echte Mona Lisa hängt schließlich, wie alle Welt weiß, hinter Panzerglas im Louvre in Paris.
Naja, würden da vielleicht einige moderne High-Tech-Fälscher den Altvorderen ihrer Zunft zuraunen, falls sie sich träfen, da ließe sich durchaus was machen. Und dann würden sie womöglich einen Film zeigen, in dem ein ansonsten untadliger Promi zweifelhafte Statements von sich gibt oder – noch schlimmer – täuschend echt in obszöner Weise mit Personen verkehrt, die man normalerweise nicht in seinem Umfeld verortet – eine raffinierte Bewegtbildmanipulation. Mit solchen Fake-Skandalen ließen sich politische oder wirtschaftliche oder gesellschaftliche Entscheidungen womöglich enorm beeinflussen, und selbstverständlich könnte man damit je nach Auftraggeber auch Geld verdienen. Oder man hätte wie Tom Keating bloß seinen Spaß.
Deepfake heißt die Technologie, die vermeintlich echte Menschen in einen scheinbar echten Kontext versetzt. Einen Vorgeschmack davon bekam die Welt durch den Welterfolg „Forrest Gump“, in dem der Hauptdarsteller Tom Hanks in allerlei historische Filmszenen hineinstolpert. Inzwischen aber sind fast drei Jahrzehnte vergangen, und das Gesicht von Hanks würde heute einfach auf das Gesicht einer x-beliebigen Person im Original-Material übertragen, anstatt den ganzen Schauspieler aufwändig hineinzuschneiden. Der Begriff Deepfake setzt sich zusammen aus
„Deep Learning“und „Fake“. Mithilfe eines Computerprogramms gelingt es, die Kopie einer tatsächlichen Person im Film tun oder sagen zu lassen, was immer man möchte. Künstliche Intelligenz analysiert dabei zunächst Original-Fotos oder Video-Schnipsel der Zielperson und überträgt deren Mimik und Lippenbewegungen dann in einen erfundenen oder manipulierten Kontext. Auch die Stimme lässt sich recht originalgetreu nachmachen. Selbst die Lichtverhältnisse werden realistisch angepasst. Auf diese Weise können Gesichter in einem Video getauscht, die Reaktionen einer Person nach Belieben kontrolliert oder ganze PseudoIdentitäten erzeugt werden.
Um das nahezu perfekt zu bewerkstelligen, konkurrieren zwei Algorithmen ständig miteinander. Der eine liefert die gefälschten Inhalte, der andere überprüft sie. Ist die Fälschung nicht gut genug, wird sie blitzschnell optimiert. Daher die Bezeichnung „Deep Learning“.
Das Ergebnis kann sich sehen lassen: So beschimpft der frühere US-Präsident Barack Obama schon 2018 in einem Clip verblüffend realistisch, aber dennoch gefälscht seinen Nachfolger Donald Trump. Das entsprechende Video des US-Regisseurs Jordan Peele diente allerdings als Anschauungsmaterial dafür, wie gefährlich Deepfakes sein können.
Im März 2022 tauchte auf einer gehackten ukrainischen Nachrichten-Website ein Fake-Video des ukrainischen Präsidenten Wolodymyr Selenskyj auf, in dem dieser ukrainische Soldaten aufruft, sich zu ergeben. Das Video wurde als Fälschung entlarvt. Facebook klassifizierte es als Deepfake und entfernte es aus seinem Netzwerk.
Im Filmdrama „Bohemian Rhapsody“spielt der ägyptische Darsteller Rami Malek den Queen-Sänger Freddie Mercury. Dafür
erhielt er einen Oscar. Der Deepfaker Ctrl Shift Face trainierte eine KI mit Bild- und Videoaufnahmen Mercurys und tauschte sodann Maleks Gesicht mit dem von Mercury aus – mit einem beeindruckenden Ergebnis.
Zahllose, meist prominente Frauen wurden in den vergangenen Jahren Opfer von Deepfake, indem ihre Gesichter auf die von Darstellerinnen in pornografischen Videos montiert wurden.
Niemand aber kann abschätzen, was geschehen könnte, sollte jemand auf die Idee kommen, einen gefälschten Putin inakzeptable Drohungen aussprechen zu lassen. Es wäre nicht so lustig wie das Deepfake-Video, in dem der russische Machthaber mit nacktem Oberkörper auf einem Bären reitet anstatt auf einem Pferd.
Lange Zeit war es aufwändig, Videos oder Audiomitschnitte qualitativ hochwertig zu manipulieren. Mittlerweile muss man kein Experte mehr sein, um mit gängigen Grafikkarten derartige Fälschungen in kurzer Zeit trainieren und herstellen zu können. Heute reicht es, ein Computerprogramm herunterzuladen, etwa „Fake-App 2.2“. Damit erzielen selbst Laien erstaunliche Fälschungsergebnisse.
Das Ganze funktioniert inzwischen sogar in Echtzeit. In Videokonferenzen könnte so zum Beispiel jemand auftreten, den die übrigen Teilnehmer als einen Kollegen identifizieren, denn er sieht genauso aus und spricht auch so. In Wahrheit agiert jemand anderes hinter der Kamera, der mithilfe von KI die Identität des Betreffenden angenommen hat.
Desinformationskampagnen, Verleumdung und Betrug scheint damit Tür und Tor geöffnet. Deepfake ist in der Lage, die Integrität privater und öffentlicher Personen anzugreifen, Existenzen zu zerstören und Kampagnen zu beeinflussen. Denn die Betrachter neigen dazu, die Ergebnisse erst einmal für bare Münze zu nehmen. Selbst ein geübtes Auge kann die Fälschung kaum erkennen. Verschiedene Firmen entwickeln zwar Deepfake-Erkennungssoftware, der technische Wettlauf ist allerdings ein Kopf-an-Kopf-Rennen.
Doch liegen in der Technologie auch Chancen. So hat die niederländische Polizei vor wenigen Tagen einen getöteten Teenager fast 20 Jahre nach der Tat digital zum Leben erweckt – und nach Veröffentlichung des kurzen Clips Dutzende Hinweise erhalten. In einem Deepfake-Video ist der 2003 in Rotterdam getötete Sedar Soares zu sehen, der damals 13 Jahre alt war. Er blickt erst in die Kamera, hebt dann einen Fußball auf – und geht schließlich durch ein Spalier aus Mitgliedern seiner Familie und ehemaligen Klassenkameraden, Lehrern sowie Mitspielern seiner damaligen Fußballmannschaft.
Manche von ihnen berühren den digital wiederbelebten Sedar sogar an der Schulter. „Jemand muss doch wissen, wer meinen lieben Bruder ermordet hat“, sagt eine Stimme zu den Bildern. „Deswegen haben wir ihn für diesen Film zum Leben erweckt.“Die Sequenz endet damit, dass Sedar und seine Familie und Freunde sagen: „Weißt du mehr? Dann sprich!“
Bei der Trauerarbeit können Deepfakes ebenfalls für manche Menschen von Nutzen sein, wenn die Technologie verstorbene geliebte Personen digital animiert. Die FotoApp „Deep Nostalgia“haucht eben nicht nur Mona Lisa Leben ein, sondern auch Bildern von Menschen, die nicht mehr existieren.
Das wirkt auf die einen tröstlich, weil etwas unwiederbringlich Verlorenes für einen sehr persönlichen Moment das Festgefrorene einer Fotografie überwindet, andere finden Derartiges unheimlich. Aus diesem Grund hatten die Betreiber der Website „Myheritage“wohl zunächst auf die Rekonstruktion von Sprache verzichtet. Doch inzwischen gehören auch mehr als 140 Stimmen in 31 unterschiedlichen Sprachen zum Angebot.
Wohin die Reise gehen könnte, zeigt das Geschenk, das Rapper Kanye West 2020 seiner Frau Kim Kardashian zu ihrem 40. Geburtstag machte: Vier Minuten lang ließ er den 17 Jahre zuvor verstorbenen Vater Kardashians als sprechendes 3D-Hologramm auferstehen. Geschätzte Kosten: rund 300.000 Dollar.
„Augmented Eternity“, übersetzt „erweiterte Ewigkeit“, nennen KI-Forscher den Trend, der heute für die meisten noch unbezahlbar ist, aber morgen vielleicht schon erschwinglich sein wird. Zudem dürfte es Künstlicher Intelligenz vermutlich schon bald gelingen, nahezu menschlich zu kommunizieren.
„Ist das jetzt echt?“– Diese Frage wird uns wohl in Zukunft häufiger begegnen.
Noch mehr Lesestoff
Weitere Artikel erwarten Sie ab Samstag um 20.15 Uhr im digitalen Zeitungsmagazin „Der Sonntag“. Darin:
Guter Verzicht, schlechter Verzicht: Die Inflation ändert das Konsumverhalten. Aus ökologischen Gründen werden solche Einschränkungen seit Langem gefordert. Doch das passt weniger gut zusammen, als es scheint.
Außerdem: Extrem-Alpinist Reinhold Messner spricht im Interview über seine Ängste und die Unwichtigkeit der Gipfel. Und: Wie unser Autor sich ein Haus im Düsseldorfer Speckgürtel kaufen konnte, ohne sich finanziell zu ruinieren.
Dazu: Sport und das Wichtigste vom Samstag.
„Der Sonntag“ist in der App „RP ePaper“lesbar sowie online: epaper.rp-online.de