Obeťou deepfakov sú čoraz častejšie ženy a deti
Falošné snímky Taylor Swift zaplavili internet. Vďaka umelej inteligencii je tvorba falošných obrázkov a videí stále väčší problém. Účinná obrana voči nim zatiaľ neexistuje
Na sociálnej sieti X (predtým Twitter) sa objavili sexuálne ladené akty známej speváčky Taylor Swiftovej. Podľa odborníkov falošné pornografické snímky vytvorila umelá inteligencia, ktorá dokáže okamžite produkovať nové obrázky a videá na základe písomného zadania.
Jeden z najvirálnejších príspevkov zobrazujúcich americkú speváčku mal viac ako 45 miliónov zobrazení. Podľa webu 404 Media sa obrázky a videá pravdepodobne najskôr objavili na sieti Telegram.
Na sieti Elona Muska sa obsah s Taylor Swiftovou šíril takou rýchlosťou, že ich moderátori nestíhali mazať. Napokon im s tým pomohli fanúšikovia popovej speváčky. Tí nahlasovali účty, ktoré zverejňovali nepravdivé snímky a videá. Sieť X dokonca musela na istý čas zablokovať vyhľadávanie Taylor Swiftovej.
„Keď si nie ste istí, kde čo je, a nemôžete zaručiť, že všetko bolo odstránené, najjednoduchšia vec, ktorú môžete urobiť, je obmedziť schopnosť ľudí to vyhľadať,“povedal pre agentúru AP Ben Decker zo spoločnosti Memetica, ktorá monitoruje digitálny obsah a riziká na webe.
Podľa denníka Wall Street Journal však boli niektoré zo snímok speváčky stále dohľadateľné, niektoré z nich majú desaťtisíce zobrazení a ďalej sa šíria po sociálnych sieťach.
OBROVSKÝ NÁRAST
Odborníci našli desiatky obrázkov generovaných umelou inteligenciou (AI).
„Snímky Talyor Swiftovej sa prvýkrát objavili počas kampane, ktorá sa začala minulý rok na okrajových platformách s cieľom produkovať sexuálne explicitné obrázky žien vytvorené AI,“povedal Decker, podľa ktorého sa jedna z falošných snímok speváčky objavila už 6. januára.
Experti na AI uvádzajú, že počet obrázkov či videí skutočných ľudí vytvorených pomocou umelej inteligencie známych ako deepfaky za posledné roky obrovsky vzrástol. Nástroje na ich generovanie sú totiž dostupnejšie a ľahšie použiteľné.
Podľa jednej z analýz bolo minulý rok zverejnených viac ako 143-tisíc nových deepfakových videí, ktoré majú viac než 4,2 miliardy pozretí a boli nahraté na 40 najpopulárnejších webových stránok.
Ďalšia vlaňajšia štúdia zistila, že od roku 2019 došlo k 550-percentnému nárastu vytvárania upravených obrázkov. Tie cielia predovšetkým na deti a ženy. Napríklad podľa správy State of Deepfakes z minulého roka sa falošná pornografia týkala z 99 percent žien.
AMERICKÉ ŠTUDENTKY
Viacerí americkí politici žiadajú úrady, aby zakročili proti zneužívaniu umelej inteligencie. Takisto volajú po prijatí zákonov, ktoré by trestali podobné prípady.
Ešte v júni FBI varovala, že stále dostáva správy od obetí (medzi nimi boli maloleté deti), ktorých fotografie alebo videá boli využité na vytvorenie explicitného obsahu šíreného na internete.
Čoraz väčší problém je so zámerne upraveným obsahom napríklad na amerických školách, kde sú predovšetkým sexuálne explicitné snímky alebo videá nástrojom šikany.
Na strednej škole v New Jersey kolovali snímky nahej 14-ročnej študentky a ďalších jej spolužiačok, ktoré vytvorila umelá inteligencia. Na škole v Seattli tínedžer použil AI na vytvorenie a šírenie podobných obrázkov iných študentov, hlavne dievčat, ktoré navštevovali tú istú školu.
Hoci viaceré americké štáty prijali vlastnú legislatívu, ktorá trestá používanie deepfakov napríklad väzením, stále neexistuje federálny zákon.
V utorok skupina senátorov predložila návrh zákona, ktorý by kriminalizoval šírenie sexualizovaných obrázkov vytvorených umelou inteligenciou. Opatrenie by obetiam, ktoré sú zobrazené nahé alebo v sexuálne explicitných snímkach, umožnilo žiadať trest pre kohokoľvek, kto vytvoril či šíril materiál, ktorý nebol vytvorený s ich súhlasom.
„Šírenie explicitných obrázkov Taylor Swiftovej generovaných AI je otrasné – bohužiaľ, deje sa to ženám všade každý deň,“napísal na sieti X republikánsky poslanec Joseph Morelle, ktorý v kongrese predstavil návrh zákona.
K šírení falošných fotiek popovej speváčky sa vyjadrila aj hovorkyňa amerického prezidenta Karine Jean-Pierrová, ktorá to označila za „alarmujúce“.
NEDOSTATOČNÁ LEGISLATÍVA
Európska únia prijala nové právne predpisy, ktoré obsahujú ustanovenia o deepfakoch. Zákon o digitálnych službách nadobudol účinnosť vlani a vyžaduje od online platforiem, aby prijali opatrenia na obmedzenie rizika šírenia obsahu, ktorý porušuje právo na súkromie alebo šíri „nekonsenzuálne“snímky (na ktoré nebol udelený súhlas, pozn. red.) či falošné porno.
Ďalší zákon o AI (Artificial Intelligence Act) od roku 2021 čaká na schválenie všetkých 27 členských štátov, a keď prejde, bude vyžadovať od spoločností, ktoré vytvárajú deepfaky pomocou umelej inteligencie, aby informovali používateľov, že obsah je umelý alebo zmanipulovaný.
V Británii vlani prijali zákon o online bezpečnosti, podľa ktorého je šírenie škodlivého obsahu a vyhrážanie sa ním trestné. Usmernenie sa týka aj šírenia intímnych záberov.
Pred súd sa vďaka tomu môžu dostať aj páchatelia, ktorí zneužívajú počítačom upravené alebo zmanipulované obrázky a videá svojich obetí.
Britská polícia v súvislosti s tým pre The Times uviedla, že „musí radikálne aktualizovať protokoly a spôsob, akým môžu ľudia tieto zločiny nahlasovať“.
Deepfaky otrávia spoľahlivé správy a informácie. Ak sa používajú vo verejnej informačnej aréne bez záruk, nielenže intoxikujú verejnosť, ale zároveň podkopávajú jej dôveru v online spravodajstvo.
Vincent Berthier
Reportéri bez hraníc
EXPLÓZIA OBSAHU
Veľkým problémom pri využívaní umelej inteligencie sú hlavne deti.
Organizácia Internet Watch Foundation (IWF) vyzvala vlády a poskytovateľov technológií, aby prijali ďalšie opatrenia ešte pred tým, ako internet zahltia obrázky sexuálne zneužívaných detí vygenerovaných AI, ktoré polícia nebude stíhať vyšetrovať.
„Nehovoríme o škodách, ktoré z toho môžu vzniknúť,“povedal Dan Sexton z organizácie. „Toto sa deje práve teraz a práve teraz to treba riešiť.“
Sexton tiež upozornil, že falošné zábery sexuálne zneužívaných detí môžu obmedziť prácu vyšetrovateľov, ktorí sa budú snažiť zachrániť deti, u ktorých sa neskôr preukáže, že išlo len o virtuálne postavy.
Takisto uviedol, že je obrovský dopyt po vytvorení nových obrázkov detí, ktoré v minulosti už boli zneužívané.
„Vidíme upravené deti, vidíme, ako si páchatelia vytvárajú vlastné snímky podľa svojich špecifikácií, vidíme falošné snímky generované AI na komerčný zisk – to všetko normalizuje znásilňovanie a zneužívanie skutočných detí,“povedal pre AP Ian Critchley z oddelenia britskej polície, ktorá sa zaoberá ochranou detí.
Analytici IWF zistili, že tí, ktorí zneužívali takýto obsah, zostali sami prekvapení tým, aké ľahké je len pomocou vlastného počítača vytvoriť sexuálne explicitné obrázky detí všetkých vekových kategórií.
Navyše upravené zábery pomocou AI môžu páchatelia využiť ako donucovací prostriedok na vydieranie a získavanie ďalších obetí. Objavili sa napríklad prípady, keď páchatelia využili fotky svojej bývalej partnerky na vytvorenie falošného porna.
„Nemôžete regulovať to, čo ľudia robia na svojich počítačoch, vo svojich spálňach. To nie je možné,“povedal Sexton. „Ako sa teda dostanete do bodu, keď nebudú môcť použiť voľne dostupný softvér na vytváranie škodlivého obsahu, ako je tento?“
V Južnej Kórei už odsúdili muža na 2,5 roka za mrežami, pretože použil umelú inteligenciu na vytvorenie 360 falošných obrázkov zneužívania detí.
V Španielsku sa objavili prípady, keď tínedžeri zneužili nástroje umelej inteligencie. V jednej škole použili mobilnú aplikáciu na to, aby ich oblečení spolužiaci vyzerali na fotkách nahí.
OBCHÁDZANIE OBMEDZENÍ A PRAVIDIEL
So zdokonalením technológií sa falošné obrázky a videá odhaľujú čoraz ťažšie.
Výskumníci z Massachusettského technologického inštitútu zistili, že ľudia a programy dokážu identifikovať falošné obrázky podobnou rýchlosťou a že obaja pri tom robia chyby.
Navrhli, aby ľudia venovali veľkú pozornosť tváram ľudí na obrázkoch a videách, o ktorých si myslia, že by mohli byť falošné, vrátane okuliarov, fúzov na tvári a rýchlosti žmurkania, teda všetkého, čo sa môže javiť ako abnormálne.
Väčšina programom na generovanie obrázkov pomocou AI má poistky, ktoré zabránia ich zneužitiu, no objavili sa už prípady, ktoré to dokážu obísť. Časopis MIT Technology Review upozornil na obrazové programy ako DALL-E od OpenAI, Stable Diffusion od Stability AI alebo Midjourney.
Obrázky Talyor Swiftovej boli podľa denníka Guardian pravdepodobne vytvorené pomocou programu Microsoft Design.
Výskum pracoviska Stanfordskej univerzity Stanford Internet Observatory, ktorý sa zaoberá zneužívaním technológií, ukázal, že napríklad staršie verzie Stable Diffusion obsahujú snímky zobrazujúce sexuálne zneužívanie detí.
Výskumníčka americkej univerzity Renée DiResta uviedla, že hoci sociálna sieť X zakazuje šírenie klamlivého a škodlivého obsahu vrátane pornografických snímok, nedokáže efektívne vymáhať dodržiavanie týchto pravidiel.
Sieť X kúpil pred dvoma rokmi Elon Musk, ktorý začal uvoľňovať pravidlá moderovania obsahu. Prepustil tisíce zamestnancov vrátane pracovníkov, ktorí sa zaoberali nastavovaním a vymáhaním pravidiel.
PROTI ŽENÁM
Spolu s nedostatkom zákonných opatrení o deepfakoch vznikajú obavy, či umelá inteligencia nenaruší voľby, ktoré tento rok prebehnú vo viacerých krajinách.
Objavil sa už napríklad falošný telefonát amerického prezidenta Joea Bidena, v ktorom vyzýval voličov, aby sa nezúčastnili primárok v New Hampshire.
Minulý týždeň po sociálnych sieťach kolovalo falošné video českého ministra vnútra Víta Rakušana, kde urážal ľudí a volal po cenzúre.
Organizácia Reportéri bez hraníc ešte minulý rok vo svojej správe uvádzala, že obeťou umelo generovaných obrázkov a videí sa čoraz častejšie stávajú novinári a novinárky.
„Deepfaky otrávia spoľahlivé správy a informácie. Ak sa používajú vo verejnej informačnej aréne bez záruk, nielenže intoxikujú verejnosť, ale zároveň podkopávajú jej dôveru v online spravodajstvo,“uvádza Vincent Berthier z organizácie.
Podľa americkej expertky Mary Anne Franksovej sa využívanie AI na tvorbu falošných obrázkov a videí čoraz častejšie zameriava na političky.
„Pre ženy a dievčatá nie je hrozba umelej inteligencie hneď za rohom. Je už tu,“povedala podľa NBC News.
Správa spoločnosti DeepTrace Labs z roku 2019 ukázala, že väčšina obrázkov generovaných umelou inteligenciou bola namierená proti ženám. Obeťami boli predovšetkým hollywoodske herečky a hviezdy juhokórejského popu.
Šírenie explicitných obrázkov Taylor Swiftovej generovaných AI je otrasné – bohužiaľ, deje sa to ženám všade každý deň.
Joseph Morelle
republikánsky poslanec