Programma herkent automatisch deepfakes

INTERNET Wat is de kans dat een bepaalde foto of video is gemanipuleerd? Het nieuwe programma Video Authenticator van Microsoft geeft een score in procent. Net op tijd voor de Amerikaanse presidentsverkiezingen.

In de aanloop naar de verkiezingen in de VS stijgt de ongerustheid over gemanipuleerde media. Twitter blokkeerde al een aantal video’s die het als dusdanig bestempelde. Deze week was er bijvoorbeeld een video waarin presidentskandidaat Joe Biden lijkt te zeggen dat hij van plan is het budget van de politiediensten in te krimpen. In die video werd een audiofragment handmatig geknipt en verplaatst.

Voorlopig is er nog geen sprake geweest van het inzetten van deepfakes om de Amerikaanse verkiezingen te manipuleren, maar experts waarschuwen daar wel voor. Een deepfake is een video die is gemanipuleerd via artificiële intelligentie, en waarin iemand iets zegt of doet wat hij nooit heeft gedaan.

Video Authenticator van Microsoft zou ingrepen in een video of foto kunnen detecteren door te kijken naar de grenzen tussen het echte en gemanipuleerde deel van het beeld. In die overgang kunnen zich subtiele effecten voordoen die met het blote oog niet altijd detecteerbaar zijn, volgens een bericht op de blog van het bedrijf.

Het maken van deepfakes is een kat-en-muisspelletje. ‘Dat ze worden gemaakt door AI die kan bijleren, maakt het onvermijdelijk dat ze conventionele detectietechnieken zullen verslaan’, aldus de blog. ‘Maar op korte termijn, zoals bij de Amerikaanse presidentsverkiezing, kan geavanceerde detectietechnologie een nuttig instrument zijn om kritische gebruikers te helpen een deepfake te herkennen.’ Naast het detecteren van vervalsing werkt Microsoft (net als anderen) ook aan het tegenovergestelde: digitale watermerken waarmee een videomaker kan bewijzen dat een beeld authentiek is.