Za teroristy by v budoucnu mohli zabíjet roboti

Mezinárodní experti bijí na poplach před možností zneužití umělé inteligence ze strany „kriminálníků, teroristů či zločineckých států“. Stostránkovou zprávu, která byla nedávno zveřejněna, napsalo 26 odborníků na umělou inteligenci, kyberzločiny a robotiku včetně expertů z univerzit (Cambridge, Oxford, Yale, Stanford) a z neziskového sektoru (společnosti jako OpenAI či Středisko pro novou americkou bezpečnost).

Podle nich by v příštích deseti letech mohla zvyšující se efektivnost umělé inteligence posílit počítačovou kriminalitu a teroristé by mohli více využívat drony či roboty. Odborníci také zmiňují možnost snadnější manipulace voleb na sociálních sítích prostřednictvím takzvaných internetových botů, což jsou počítačové programy, které pro svého majitele opakovaně vykonávají nějaké rutinní činnosti. „Domníváme se, že útoky, které by snadnější přístup k umělé inteligenci mohl umožnit, budou obzvlášť účinné, přesně cílené a těžko odhalitelné,“píše se ve zprávě.

Uklízecí robot zabiják?

Současně experti zmiňují i některé „hypotetické možnosti“zneužití umělé inteligence. Teroristé by například mohli uzpůsobit systémy umělé inteligence používané třeba v dronech či samořiditelných dopravních prostředcích pro vyprovokování srážek a výbuchů. Připomínají i možnost zneužití úklidového robota v nějakém úřadu, který by se mohl dostal mezi jiné roboty, kteří připravují třeba jídlo. Takovýto robotí vetřelec by pak mohl pomocí výbušniny zaútočit na nějakého úředníka poté, co by jej identifikoval. Podle jednoho z autorů zprávy a ředitele střediska z Cambridgeské univerzity Seána Ó hÉigeartaigha by se mohla „s větším zneužitím umělé inteligence zvýšit zejména počítačová kriminalita“. Větší záběr by mohly představovat i útoky pomocí tzv. spear phishingu, což je podvodná technika používaná na internetu k získávání citlivých údajů (útočník zasílá e-mail konkrétní osobě; pro tradiční phishing je typické rozeslání obrovského množství mailů).

Politici v ohrožení

Velké nebezpečí vidí Seán Ó hÉigeartaigh „v možném zneužití umělé inteligence v politice“. „Již jsme zažili, jak se jednotlivci či skupiny snažili zasahovat pomocí internetu do demokratických voleb,“připomíná a dodává: „Jestliže umělá inteligence umožní, aby byly tyto útoky silné, jednoduché na zopakování a složité na odhalení, mohlo by

„Pan doktor a profesor Jair Lapid,“objevila se nedávno jedovatá poznámka na Facebooku od jednoho poslance vládnoucího Likudu. A podobných žertů na Lapidovu adresu už bylo v Izraeli více. Přesto je Lapidova strana v průzkumech nejsilnější. Dnes má liberální Ješ Atid 11 křesel, a pokud by teď byly volby, získala by 27 mandátů. V Knesetu nejsilnější Netanjahův Likud se 30 poslanci by spadl na druhou pozici s 20 křesly.

V roce 2013 se týdeník The Economist o Lapidovi zmiňoval jako o vycházející hvězdě izraelské politiky. to znamenat velký problém pro politickou stabilitu.“Umělá inteligence by mohla sloužit třeba i k výrobě falešných a velmi realistických videí, která by pak mohla být použita k diskreditaci politických činitelů.

Do rozvoje umělé inteligence by se mohly zapojit i některé autoritářské státy, které by pak mohly s její pomocí snadněji sledovat své občany.

Není to poprvé, co se upozorňuje na možné zneužití umělé inteligence. V roce 2014 před tím varoval známý astrofyzik Stephen Hawking, k němuž se v poslední době přidal třeba podnikatel Elon Musk a další. Nejnovější zpráva však přináší „nový pohled na část umělé inteligence, která by mohla přinést nové místo. Například v rozhovoru pro Deutche Welle zaznělo, že silně podporuje dvoustátní řešení konfliktu, tedy vznik palestinského státu. Ovšem jen za podmínky, že nebude bezpečnost Izraele narušena. Izrael se musí oddělit od Palestinců a postavit „tu nejvyšší možnou zeď zemi oběma národy“, řekl.

Nakonec ve straně má na bezpečnost plno expertů: nedávno se k němu přidala bývalá dvojka v Mossadu Ben Barak. V Ješ Atid už jsou kromě jiných bývalý ředitel rozvědky Šin Bet Jaakov Pari, generálmajor Elazar Stern anebo bývalý šéf policie v Jeruzalémě Mickey Levi.

Narážky na Lapidova selhání se v Izraeli míjejí účinkem zjevně i proto, že mnozí jsou naštvaní na Netanjahua vyšetřovaného z korupce. Za odstoupení premiéra se v Tel Avivu protestuje už měsíce, na veřejnost se dostala nahrávka hysterického výlevu jeho ženy Sáry a i jeho syn má škraloup. Lapid se stal klíčovým svědkem proti Netanjahuovi, a tak narážky na něj ze strany Likudu i médií mnozí Izraelci neberou vážně. „Co na Lapida ještě vytáhnou? Že do čtyř let nosil pleny?“zní například v jednom komentáři. hrozby nebo změnit existující hrozby v oblastech počítačové, politické i lidské bezpečnosti“. V posledních letech totiž bylo dosaženo pokroku v oblastech kupříkladu vnímání, hlasového rozeznávání či obrazové analýzy.

Ještě je čas jednat

„V současnosti ještě existuje rozdíl mezi rychlostí výzkumu a možnými aplikacemi novinek. Ještě je čas jednat,“říká vědec z Oxfordské univerzity Miles Brundage. „Na zmírnění těchto hrozeb by měli spolupracovat vědci na umělou inteligenci, vývojáři robotů a dronů i regulační orgány a politici,“soudí Seán Ó hÉigeartaigh. (AFP, ČTK)