Deepfake is geen spelletje
In De mol kregen we vier deepfake-stemmen te horen en één echte – die van de mol. Proficiat aan wie meent het verschil te kunnen horen (Michaël slaagde er alvast niet in). Maar dat met AI gegenereerde stemmen een leuk item opleveren in een spelprogramma, betekent niet dat het geen bittere ernst is. Bijvoorbeeld voor Eric Eiswert, schooldirecteur in Baltimore. De man werd geschorst nadat op sociale media een geluidsopname was rondgegaan waarin hij racistische en antisemitische opmerkingen maakt. Hij werd ook bedolven onder haatmail en had op een bepaald moment zelfs politiebescherming nodig.
Experts hebben intussen kunnen aantonen dat het om een deepfake ging. Dat was onder meer te horen aan de achtergrondgeluiden en aan het ontbreken van natuurlijke adempauzes. De deepfake zou het werk zijn van de turnleraar op de school, die vorige week is gearresteerd. De leraar liep kans om te worden ontslagen na een aantal eerdere misstappen. En dus knutselde hij die deepfake in elkaar en verspreidde die via sociale media. In de opname laat de directeur zich laatdunkend uit over zwarte leerlingen op de school en over de Joodse gemeenschap in de buurt.
De turnleraar was zo slordig geweest om sporen achter te laten. Zo had hij vanop een computer op school opzoekingen gedaan over AI en kon het e-mailadres waarmee hij de opname verspreidde, gekoppeld worden aan de computer van zijn grootmoeder.
Er zijn intussen heel wat AI-bedrijven die deepfake-stemmen aanbieden. De bekendste is waarschijnlijk ElevenLabs. Op hun website kun je elke stem klonen op basis van een opname van een paar minuten. Die gekloonde stem kun je in een twintigtal talen laten spreken, waaronder ook het Nederlands. De technologie van ElevenLabs is in januari gebruikt om de voorverkiezingen voor het Amerikaanse presidentschap te beïnvloeden. Inwoners van de staat New Hampshire hoorden op hun antwoordapparaat een boodschap van Joe Biden, die hen opriep niet te gaan stemmen. Ook daar werden de schuldigen gevat. De opdrachtgever was een consultant die banden had met Bidens tegenkandidaat en partijgenoot Dean Philips, maar hij beweerde op eigen initiatief te handelen. De maker, een goochelaar uit New Orleans, zei dat het hem maar 20 minuten had gekost om de deepfake in elkaar te steken op de ElevenLabs-website en dat hij er 150 dollar voor had gekregen.
Een vindingrijke knutselaar slaagde erin zich heel wat meer te laten betalen. Onbekenden deden zich voor als BBC-presentatrice Liz Bonnin en streken 20.000 pond op voor een reclamecampagne voor een insectenwerende spray. Bonnin zag plots haar gezicht opdagen online, maar het was een deepfake-versie van haar stem die daar telefonisch ‘toestemming’ voor had gegeven. Het bedrijf was overtuigd dat het met de echte Bonnin zaken had gedaan. Met de deepfake in een opgenomen voicemailbericht was nochtans iets vreemds aan de hand: Bonnin is Iers, maar haar stem sprak plots met een Australische tongval.
Onbekenden deden zich voor als BBCpresentatrice Liz Bonnin en streken 20.000 pond op