AI začne ovlivňovat volby
Velké jazykové modely nám přerostou přes hlavu, může se to stát už při souboji v USA
Vkomentáři pro Bloomberg se hvězdný historik Niall Ferguson tentokrát zabývá otázkami spojenými s tím, jaké dopady bude mít revoluce umělé inteligence na politiku a geopolitiku. První otázka se týká nadcházejících amerických prezidentských voleb. AI do nich asi vstoupí. V roce 2012 pomohl Google Obamovi, o čtyři roky později pomohl Facebook Trumpovi, v roce 2020 pomohly všechny sociální sítě Bidenovi díky jednostranné moderaci obsahu.
Robot imitující hlas Bidena
Velké jazykové modely mají politický potenciál. Mohou garantovat obrovské kvantity obsahu bez lidského dohledu včetně úplně falešných telefonátů a videoklipů. Už jsme mohli slyšet první „robocalls“imitující Bidenův hlas v primárkách ve státě New Hampshire. Lze si jen těžko představit, že by to šlo nějak snadno zakázat. Některé studie ukazují, že respondenti považují výstup velkých jazykových modelů na konkrétní téma za stejně důvěryhodný jako materiál na stejné téma z The New York Times. Nebo se ukázalo, že AI systémy dokážou zahltit legislativce a vládní agentury náloží falešné zpětné vazby od voličů. Studie také ukazují, že i když si jsou lidé vědomi existence podvodných deepfake videí, neznamená to, že se je naučí rozpoznat. Spíše ztratí důvěru ke všem videím, tedy i k těm pravým. Volby asi zvýší veřejný tlak na regulaci, zvláště pokud si jedna strana bude myslet, že ta druhá získala díky AI výhodu.
Co se regulace AI v USA týče, tak prezident Biden vydal exekutivní příkaz, který vyjmenovává priority regulace AI. Firmy, jež vyvíjejí AI systémy, které by mohly ohrozit národní bezpečnost, na sebe mají upozornit federální orgány a samy provádět bezpečnostní testy a o jejich výsledcích informovat vládu. Bidenův dekret nenařizuje povinnost žádat o státní licenci, když budu chtít budovat velký AI model. To mimochodem navrhoval šéf firmy OpenAI Sam Altman. Ten volá po vzniku nové federální agentury, která bude vývoj AI licencovat. Jak to bude s prezidentským dekretem v praxi, záleží na tom, jak moc ho budou federální úředníci vymáhat a jak vstřícné budou technologické firmy vůči státu.
Několikaleté zpoždění regulací
V Kongresu se rodí nadstranický zákon, sponzorovaný senátorem za Demokratickou stranu Richardem Blumenthalem a Joshem Howleym, senátorem ze republikány. Klíčovým stavebním prvkem návrhu je, že na AI se nebude vztahovat článek 230 zákona o slušné komunikaci. Podle tohoto článku nejsou sociální sítě odpovědné za šířený obsah, ale na umělou inteligenci a velké jazykové modely se to vztahovat nemá. Z toho vyplývá, že firmy mají být zodpovědné za šíření škodlivého AI obsahu. Dalším prvkem má být, že vývojáři a poskytovatelé AI mají uživatele předem upozornit, že vstupují do interakce s umělou inteligencí. Návrh vytváří pravidla pro ochranu dětí a umožňuje uživatelům mít přehled o tom, jak je nakládáno s jejich osobními údaji. Deepfake videa mají být označena a transfer AI technologií z Číny má být přísně omezen.
Bude podobná legislativa schválena? Podle Fergusona asi ne. Historie Kongresu napovídá, že regulace nových technologií postupuje v USA velmi pomalu. Mezi vynálezem železnice a první federální regulací uplynulo 62 let. U telefonů to bylo 33 let. U rozhlasu 15 let a u internetu 13 let. Výjimkou je jaderná energie. Tady bylo zpoždění jenom čtyři roky.
Studie ukázaly, že systémy umělé inteligence dokážou zahltit legislativce a vládní agentury náloží falešné zpětné vazby od voličů
Pozor, obsah vytvořila AI
Evropa je, jak známo, mistr světa v regulaci, a nikoli ve vynálezech. Evropská komise už má regulaci AI hotovou. Má být formálně schválena koncem roku a začne platit v roce 2026. Evropská legislativa dělí AI na čtyři úrovně podle toho, jaké nebezpečí a hrozby může představovat pro zdraví, bezpečnost a základní práva. Některé věci jako biometrické sledování a sociální bodování jsou zakázány rovnou. Vzdělávání, hraniční kontroly a vymáhání práva jsou označeny za vysoce rizikové oblasti. Uživatel musí být vždy upozorněn, že obsah vytvořil robot.
Evropané chtějí v AI opakovat prosazení ochrany osobních údajů GDPR. Mnoho neevropských zemí tato pravidla adaptovalo, protože jejich firmy chtějí prodávat na evropském trhu. Od roku 2018 rozdala EU 4,5 miliardy dolarů na pokutách kvůli porušení GDPR. Velké americké technologické firmy se ale většinou brání litigací (soudně – pozn. red.). Ferguson se ale obává, že Evropané nebudou úspěšní jako autoři globálních standardů pro AI. Prakticky žádná velká AI firma odtud nepochází. Výjimkou je francouzská Hugging Face.
Dosáhnout dohod o globálním omezování umělé inteligence na způsob regulace jaderných zbraní se asi nepovede. Závody mezi USA a Čínou budou zrychlovat. Fascinující je otázka spotřeby energie. Alarmisté varují, že AI si vyžádá čtvrtinu světových energetických zdrojů už v roce 2030. Skeptici mluví o 4,5 procentech. Ale i to je hodně. Datacentra budou převážně v USA, kde se už dnes ví, že v roce 2027 AI spotřebuje 14,7 procenta veškeré energie.