Stvarne opasnosti digitalnih tehnologija
Dubliranje lica je zastrašujuće jednostavno napraviti. Korisnicima nije potrebno nikakvo iskustvo u kodiranju ili vještinama umjetne inteligencije
Deepfake pornografske slike Taylor Swift su dijeljenenadruštvenojmedijskoj platformi X (Twitter), stavljajući u fokus nedostatak zaštite digitalne privatnosti žrtava širom svijeta.
Ne zna se ko je generisao lažne slike Swift, koje su pregledane desetinama miliona puta otkako su se pojavile. U petak je X izdao saopštenje da njihov tim radi na uklanjanju svih nepoželjnih golotinja sa njihovog sajta, jer je to striktno zabranjeno.
Problemjedubljiodonogaštosedogodilo Taylor Swift. Posebno predstavlja rizik za mlade žene, koje su uglavnom žrtve dubliranja. Dubliranja, odnosno zamjena lica, simptom su šireg problema onlajn nasilja protiv žena i djevojčica koje istorijski nisu bile prioritet tehnoloških kompanija i društva.
Stigma i ismijavanje
Dubliranje lica je zastrašujuće jednostavno napraviti. Korisnicima nije potrebno nikakvo iskustvo u kodiranju ili vještinama umjetne inteligencije da bi generisali takvu sliku. Tokom 2023. generisano je više od 140.000 deepfake pornosadržaja.
Ovakvi sadržaji mogu poslužiti kao osvetnička pornografija, te za ucjenjivanje i vršnjačko nasilje, bullying mladih žena i djevojčica, ali i pripadnika LGBTIQ+ populacije i manjinskih zajednica. Žrtve ostaju traumatizirane, osjećaju stid, a često nema pravnog lijekazaovakvesituacije.osobekojeizađu iz nasilnih, kontrolišućih veza, veoma često su žrtve ove vrste online nasilništva. Kod ovakvih stvari radi se o kontroli druge osobe ili, ako se već ne može kontrolisati, onda stvaranju traume, stigme i ismijavanje.
Seksualniaspektkreiranjaipuštanja u promet ovakvih deepfakeova je posramljivanje, ušutkavanje i ponižavanje ljudi. Obično kad žene progovore o nasilju ili za rodnu ravnopravnost - pogotovoženekojesuistaknuteujavnom životu kao što su novinarke, glumice, muzičarke - događa se da su odmah na meti digitalnog seksualnog nasilja.
Ovo je potpuno povezano sa željom za moći nad tim osobama i kontrolom. Ovo je direktan atak na ljudska prava i demokratski senzibilitet društva, ideale, kojima valjda težimo.
U septembru 2023. se više od 20 djevojčica u dobi od 11 do 17 godina javilo u španskom gradu Almendralejo nakon što su AI alati korišteni za generisanje njihovih golih fotografija bez njihovaznanja.sličnosedogađaloiusad-u.
Učenica srednje škole Westfield Francesca Mani (14) i njezina majka Dorota izrazile su frustraciju u gostovanju na CNN-U zbog, kako kažu, nedostatka pravnog sredstva za zaštitu žrtava pornografije generisane umjetnom inteligencijom.
Umjesto toga, onlajn platforme moguihgenerisatizakorisnikesasamo nekoliko klikova i slanjem fotografije ili videa. Dubliranja se mogu koristiti za eksplicitan sadržaj, ali i za generisanje lažnih audioporuka koje imaju potencijal da poremete izbore.
Stručnjaci upozoravaju da postoji obiman sistem kompanija i pojedinaca koji imaju koristi od dubliranja i mogli bi biti odgovorni za to. Postoje i proizvodi koji služe isključivo u zlonamjernim svrhama. Postoje pojedinci koji stvarno koriste proizvod da bi napravio bazu podataka, a zatim gledaoci koji bi je možda dijelili. Postoje sajtovi, poput Mrdeepfakes i drugi, eksplicitnijih imena.
Rješenje problema zahtijeva da zakon prestane da štiti kompanije koje profitiraju od ovakvih slika i videa, pogotovo jer su tako lake za generisanje.
Međutim,držanjedruštvenihmedijskih platformi pravno odgovornim za širenje dubliranja je teško zbog zaštite prema članu 230 Zakona o pristojnosti u komunikacijama SAD-A. Zakon kaže da “ni jedan pružalac ili korisnik interaktivneračunarskeuslugenesmije biti tretiran kao izdavač ili govornik informacija koje pruža drugi pružalac sadržaja informacija”. Ovo znači u praksi da platforme poput Instagrama ili Facebooka nisu odgovorne za sadržaj koji je postavljen od trećih lica na njihovom sajtu.
Deepfake tehnologija
Rješenje problema zahtijeva da zakon prestane da štiti kompanije koje profitiraju od ovakvih slika i videa, pogotovo jer su tako lake za generisanje