Mette Frederiksen afskaffede julen i falsk video: Eksperter advarer om en voksende trussel mod demokratiet
Såkaldte deepfakevideoer skabt af kunstig intelligens er snart så overbevisende, at man ikke kan se forskel på virkelighed og manipulation. Det vil ifølge eksperter saette vores demokratiske processer på prøve og vil allerede kunne få betydning, naeste ga
Vi er med hastige skridt på vej ind i en fremtid, hvor vi ikke laengere kan stole på det videomateriale, vi ser, og hvor vi risikerer at blive manipuleret med, uden at vi opdager det.
Allerede ved det forestående valg til Europa-Parlamentet i juni skal vaelgerne forholde sig til en ny digital virkelighed.
Det vurderer Jesper Taekke, lektor i medievidenskab ved Aarhus Universitet. For allerede da vil vaelgerne – også de danske – blive praesenteret for politiske deepfakevideoer og andet AI-skabt indhold, forventer han.
Den slags manipuleret materiale er blevet genstand for debat, efter at Dansk Folkepartis formand, Morten Messerschmidt, i fredags – i anledning af store bededag – delte en sådan video med statsminister Mette Frederiksen (S). Hun ville nu også afskaffe både pinse, påske og jul.
Videoen var satire, deklareret som AI-genereret, og man skulle ikke have falkeblik for at gennemskue, at den er falsk. Men brugen af deepfake i dansk politik udløser alligevel kritik fra både politikere og techeksperter, som beskylder Morten Messerschmidt for at bidrage til en negativ udvikling, der kan skade det danske demokrati.
»Dette her bekymrer mig dybt! For demokratiet og den demokratiske samtale« skrev SF-formand Pia Olsen Dyhr eksempelvis på det sociale medie X. Hun blev mandag bakket op af sin partifaelle techordfører Lisbeth BechNielsen, som foreslog, at Folketingets Praesidium laver retningslinjer for brug af deepfake-videoer i fremtiden.
»Jeg tror faktisk ikke, at DF forstår raekkevidden af, hvad deepfakes kan (mis)bruges til,« skrev SF’eren, mens Venstres Preben Bang Henriksen kaldte det »dybt betaenkeligt« at politikere eksperimenterer med »den slags«.
Bekymringerne deles af flere eksperter.
Jesper Taekke er således ikke i tvivl om, at danskerne vil støde på flere politiske deepfake-videoer og AI-genereret materiale allerede til EP-valget.
»Det vil vi helt sikkert,« siger han og beskriver udviklingen som meget farlig, fordi risikoen er, at vaelgere begynder at tvivle på, hvad politikere siger og mener.
»Det kan i vaerste fald nedbryde vores ellers så høje tillid til institutionerne,« siger lektoren, som også forudser, at deepfake-indhold vil komme til at påvirke nogle vaelgere i fremtiden.
Sten Schaumburg-Müller, professor ved Juridisk Institut på Syddansk Universitet, forventer ligeledes, at deepfake-videoer bliver mere udbredt som kilde til misinformation – også her i Danmark.
»Det kan vi ikke stoppe. Så laenge vi har kunnet tale, har vi fortalt løgnehistorier. Så har vi bildt os selv ind, at fotografier ikke kan lyve. Det må man bare sige nu, at det ikke laengere er rigtigt. Det har måske aldrig vaeret rigtigt, men er det i al fald ikke nu,« siger han.
Adskillige eksempler
Eksemplerne fra udlandet er allerede talrige. Under den igangvaerende kampkamp i USA har der vaeret falske robotopkald, der haevdede at komme fra praesident Joe Bidens kampagne. I Storbritannien er et AI-skabt lydklip gået viralt med Labour-lederen Keir Starmer, der overfuser sine ansatte. Og få uger før, nordirerne gik til valg i 2022, spredte en falsk sexvideo af den unge politiker Cara Hunter sig til hele verden.
Andre eksempler kommer fra lande som Polen og Moldova. Listen kunne fortsaettes.
For nylig rangerede en ”global risiko-rapport” udgivet af World Economic Forum misinformation og desinformation som nogle af de største trusler, menneskeheden står over for de kommende år – sammen med klimaforandringer og ekstreme vejrfaenomener. Saerligt AIgenereret mis- og desinformation har potentiale til at kunne udløse globale kriser, lød vurderingen.
Ifølge Jesper Taekke står det danske samfund i en sårbar situation, fordi AI-genereret indhold er så nyt, at der endnu ikke findes en konsensus om, hvad der er rigtigt og forkert.
»Når Morten Messerscmidt laegger deepfake-materiale ud i en normdannende periode, kan det vaere med til at skubbe nogle graenser. Det er sådan set ligegyldigt, om det pakket ind i humor, fordi det bliver på en eller anden måde blåstemplet. Og man kan godt forestille sig, at nogle vil hjaelpe deres favoritpolitikere, og derfor fremstiller noget deepfake og prøver på at få det i cirkulation,« siger Jesper Taekke.
Fremtiden er lige om lidt
På IT-universitetet i København peger adjunkt Aske Mottelson på, at springet fra gemen svindel på sociale medier til politisk motiveret propaganda ikke er langt. Han er i øjeblikket forskningsleder på et projekt, der undersøger, hvordan
AI-genereret materiale påvirker menneskers sind, og de foreløbige resultater tyder på, at der er store omvaeltninger på vej.
Det har efterhånden laenge vaeret muligt at skabe overbevisende tekst og billeder ved hjaelp af kunstig intelligens, men snart vil også video vaere på omgangshøjde, forventer han. Dermed vil levende billeder miste sandhedsvaerdi som medie.
»Det meste tyder på, at vi bevaeger os mod en fremtid, hvor det ikke bare visuelt er svaert at skelne sandt og falsk, men også på alle andre målbare områder. Det skelsaettende ved den erkendelse er, at folk simpelthen ikke vil kunne se forskel på, om en video er optaget i et aegte studie eller genereret ved hjaelp af AI,« siger Aske Mottelson og understreger:
»Man skal vaere naiv, hvis man ikke tror, at den teknologi bliver brugt til både gode og ondsindede formål. Det vil degradere sandhedsvaerdien i videomateriale i en grad, som vi formentlig ikke helt har forstået endnu.«
For eksempel kan man fo
Vi viser, hvordan de her teknologier kan bruges på en måde, der er underholdende og positiv, og hvor man klart deklarerer og viser, at det ikke er sandt. MORTEN MESSERSCHMIDT, FORMAND FOR DANSK FOLKEPARTI
restille sig at grupper, individer eller fremmede efterretningstjenester vil forsøge at formudre den politiske debat i Danmark ved hjaelp af deepfakes, påpeger han.
Messerschmidt afviser
Ophavsmanden til al virakken, DF-formand Morten Messerschmidt, afviser kritikken fra Jesper Taekke om, at han blåstempler en farlig udvikling.
»Han tager fuldstaendig fejl. Vi viser, hvordan de her teknologier kan bruges på en måde, der er underholdende og positiv, og hvor man klart deklarerer og viser, at det ikke er sandt,« siger Messerschmidt, som tilføjer, at deepfake-videoen blev skabt efter grundige overvejelser i DF.
»Det er rigtigt, at der skal findes en ramme i forhold til den sociale adfaerd på de sociale medier. Men det gør man netop ved at prøve sig frem. Når vi gør det på en åben måde, så er det i virkeligheden med til at skabe en opmaerksomhed omkring både mulighederne og udfordringerne ved teknologien. Det kan vaere med til, at folk har en mere kritisk tilgang til indhold,« siger Messerschmidt.
Mette Frederiksen har ikke ønsket at udtale sig til denne artikel.