Vědci: Umělá inteligence je hrozbou i pro politiku

Američtí vědci i kongresmani se obávají, že technologicky vysoce vyspělé nástroje využívající umělou inteligenci a takzvané mapování tváře se stanou nejnovější zbraní v informační válce proti USA a západním demokraciím.

Nové technologie, dostupné na internetu, umožňují šířit po světě videa s vyobrazením reálných lidí pronášejících výroky, které ve skutečnosti nikdy nezazněly.

Zatím se takové obrázky s politickým obsahem ve veřejném prostoru příliš neobjevují, ale podle expertů není otázkou zda, ale kdy. Už loni se produkce takzvaných „deepfakes“, tedy zvlášť lstivých podvodů, objevila na pornografických serverech nebo na komunitní síti Reddit. Pornoherci tam prezentují své výkony s tvářemi známých celebrit.

„Očekáváme, že v USA se tato technika objeví v listopadových kongresových volbách a v prezidentských volbách v roce 2020,“řekl Hany Farid, expert na digitální technologie. „Technologie nezná hranic a dopad to bude mít na všechny,“soudí Farid. Svět podle něj vstupuje do éry, kdy nebude jisté nic, co člověk vidí. Lidé pak budou za podvod považovat i videa zobrazující skutečnost.

Výzkumné agentury amerického ministerstva obrany se už dva roky zabývají vývojem nástrojů, které „deepfakes“rozpoznají. Zatím je k jejich identifikaci nutná rozsáhlá analýza. Metoda „deepfakes“využívá postupů takzvaného hlubokého učení (deep learning), což je forma umělé inteligence. Počítač dostane velký objem algoritmů, tedy vzorových podkladových souborů ve formě obrázků a zvuků se zachycením cílové osoby. S jejich využitím se naučí uměle vytvářet výrazy její tváře, pohyby těla, způsob a intonaci řeči. Má-li stroj dostatek podkladů, může vyrobit video s vyobrazením osoby hovořící prakticky o čemkoli, chovající se jakkoli. „Za rok či dva bude prakticky nemožné rozeznat podvod od skutečnosti,“předpověděl Andrew Grotto ze Stanfordovy univerzity. „Politici i státy nedokážou odolat, aby této techniky nevyužili k manipulaci veřejným míněním, ke zmatení veřejnosti a podkopání důvěry v demokratické instituce,“varoval Grotto.