Algemeen

Facebook komt met nieuwe regels waarmee specifieke deepfakes worden verboden en verwijderd. De nieuwe regels zijn vooral gericht op gemanipuleerde beelden bedoeld voor desinformatie waarbij kunstmatige intelligentie wordt gebruikt.

Content die overduidelijk alleen satire of een parodie is valt niet onder de nieuwe regels, net als video’s waarin alleen de woordvolgorde is veranderd. Het sociale netwerk kreeg veel kritiek omdat er zo weinig werd gedaan tegen de deepfake-content en het beleid ontbrak, vooral nu de Amerikaanse verkiezingen er weer aan zitten te komen. Facebook heeft de kennis van zo’n vijftig experts op het gebied van beleid, de wet en media uit de kast getrokken.

Een populair voorbeeld van een goed gelukte (en stiekem beste enge) deepfake is een bewerkte speech van de Amerikaanse president Nixon waarin hij meldt dat de maanlanding is mislukt, en alle astronauten van de Apollo 11-missie zijn omgekomen. De nieuwe strategie van Facebook heeft ook als voordeel dat de personen en instanties die de desinformatie verspreiden kunnen worden achterhaald. Een netwerk met nep-accounts dat door AI-gegenereerde foto’s gebruikte om de nepaccounts te verbergen werd opgerold en verwijderd.

Facebook werkt ook samen met persbureau Reuters voor trainingen voor journalisten om deepfakes en gemanipuleerde media te herkennen. Sinds vorig jaar september is er de Deep Fake Detection Challenge, die mensen aanspoort voor meer onderzoek en om opensource tools te ontwikkelen om deepfakes te detecteren.

Dat project is een samenwerking tussen onder andere MIT, Microsoft, BBC en AWS plus een aantal mediaen academische instituten en heeft een budget van 10 miljoen dollar.