Deep Fake: Wenn man den eigenen Augen nicht trauen kann
Nicht nur der Wiener Bürgermeister telefonierte zuletzt mit einem gefakten Kiewer Amtskollegen. Was ist ein Deep Fake?
BERLIN, KIEW. Mehrere Bürgermeister von Hauptstädten Europas, darunter der Wiener Stadtchef Michael Ludwig, sind bei Videoschaltungen einem „falschen“Kiewer Bürgermeister Vitali Klitschko aufgesessen. Allem Anschein nach handelt es sich um ein „Deep Fake“.
Was bedeutet dieser Begriff? Damit wird ein Medieninhalt bezeichnet, der mit Techniken künstlicher Intelligenz (KI) manipuliert wurde. Dabei kann es sich um ein vermeintlich authentisches Video oder eine Audioaufnahme handeln.
Der Begriff „Deep Fake“ist eine Zusammensetzung aus „Deep Learning“und „Fake“(Fälschung). Deep Learning ist ein Verfahren in der KI,
bei dem das System durch eine intensive Beobachtung lernt. Dabei
werden Lippenbewegungen, Mimik und Körperhaltung analysiert. Beobachtet wird auch, wie sich eine
Person bewegt oder wie sie spricht.
Wie kam der Fake-Klitschko in die Videokonferenz? Für die Auftritte des Fake-Klitschko wurde mit hoher Wahrscheinlichkeit Videomaterial eines echten Klitschko-Interviews verwendet. Dabei wurden in Echtzeit die Lippenbewegungen aus dem Video mit den Aussagen desjenigen zusammengeführt, der mit Ludwig und Co. gesprochen hat. Seit wann gibt es Deep-Fake-Systeme? Als Meilenstein in der Entwicklung von Systemen, die für solche Manipulationen geeignet sind,
gilt ein Experiment der University of Washington. 2017 stellten Forscher Algorithmen vor, die in der
Lage waren, beliebige Audioclips in ein realistisches, lippensynchrones
Video der Person umzuwandeln. Haben die Forscher damit nicht eine Monstertechnologie geschaffen? Die Wissenschafter wollten eigentlich ein System entwickeln, um die Bildqualität bei Videokonferenzen
zu verbessern. Da das Streamen von Audio übers Internet
weit weniger Bandbreite benötigt als von Video, wollte man den Ton nutzen, um daraus ein Video in viel
besserer Qualität zu produzieren. Die Wissenschafter diskutierten damals aber schon die Missbrauchsgefahr dieser Technologie. Braucht man für Deep Fake einen
Supercomputer? In den AppStores gibt es etliche Anwendungen,
die dazu dienen sollen, Selfies zu optimieren oder Porträts zu retuschieren. Doch diese Apps ermöglichen auch, in Videos die Gesichter auszutauschen. Andere Programme
wandeln Fotos in animierte Videos um. Bei der Bildqualität stoßen diese Apps schnell an Grenzen. Für ausgeklügelte Deep-Fake-Attacken auf Politiker benötigt man derzeit noch leistungsfähige Rechner.
Wer könnte hinter dem KlitschkoFake
stehen? Der Gesprächsverlauf legt die Vermutung nahe, dass dahinter prorussische Kräfte stecken. Eine Zuordnung kann aber nicht zweifelsfrei vorgenommen werden, auch weil die wahren Täter oft Spuren hinterlassen, die bewusst in die falsche Richtung zeigen. Denkbar ist auch, dass eine politische Spaßguerilla Ludwig und seine Amtskollegen in Berlin, Budapest und Madrid in Misskredit bringen will.
Wie kann man Deep Fakes erkennen? Das wird immer schwieriger
werden. Die KI-Algorithmen und die Hardwaresysteme werden in der Lage sein, gefälschtes Videomaterial zu produzieren, das absolut authentisch aussieht. Manchmal kann auch KI bei der Entdeckung von Fake-KI helfen: So kann man auf der
Website deepware.ai Videos oder Links zu Videos hochladen, um eine Einschätzung zu erhalten, ob es sich um Deep Fakes handelt.