Umělá inteligence pomáhá i hackerům
Michal Pěchouček (48)
Nízká „kyberhygiena“, nabourání vývojářů a útoky za užití umělé inteligence – to vše patří mezi zásadní hrozby internetu. „Kdyby někdo nabořil váš profil na Facebooku a ukradl ho, může z něj vytvořit velmi personalizované útoky, které neodhalíte,“říká Michal Pěchouček, přední český kybernetik, vizionář a technický ředitel softwarové společnosti Avast.
LN Co jsme se dozvěděli o rizicích internetu během už déle než rok trvající pandemie?
Předně platí, že je více lidí v online prostředí. Promíchává se pracovní a domácí prostředí. Už se nedá říci, jestli jste v práci, nebo doma. Vidíme veliký nárůst manipulativních e-mailů a phishingových útoků, které se točí okolo velikého jevu, na nějž veřejnost myslí. Tím jevem je pandemie. V okamžiku jejího startu vznikla ohromná spousta falešných e-mailů a linků, na které lidé klikali, protože věřili, že pandemie je problém, a oni se chtějí o ní něco dozvědět, popřípadě si něco koupit. Tento fenomén změnil pozornost lidí a kvůli němu se také odehrálo daleko více útoků.
LN V minulosti jsme zažili například kyberútoky na nemocnice. Jak ty podle vás bují?
Důvodů, proč hackeři útočí na zdravotnická zařízení, je mnoho. Nechci spekulovat, ale z logiky věcí plyne, že pokud je zařízení a jeho personál pod stresem vinou pracovního přetížení, bývá náchylnější k chybám. Zároveň platí, že když napadnete nemocnici, jako se to stalo v Benešově, a na několik dní ji vyřadíte z provozu, způsobíte chaos a podkopáte důvěru společnosti. To je modus operandi útočníků, kteří útočí na společnost a na kritickou infrastrukturu. Nebudu se vyjadřovat k tomu, odkud tyto útočníci pocházejí.
LN Na první pohled se tedy může zdát, že útočníkům nejde o peníze, když chtějí otřást důvěrou společnosti. Co je motivuje?
To, že někdo vyvolá chaos, ještě neznamená, že to nedělá s tím, aby nechal někomu vydělat. Mohou v tom být oba motivy. Za těmito útoky ale bývají peníze. Často jde o žádosti o výkupné za odblokování dat. Hackeři ukradnou data, zašifrují je a vrátí je jen pod podmínkou zaplacení výkupného. Z veřejně dostupných informací plyne, že žádná z nemocnic v ČR po útocích neplatila výkupné. Je-li to pravda, jsem na ně hrdý. Pokud nefinancujeme útočníky, je to skvělá zpráva.
LN Proč neplatíme?
Z části je to tím, že i nemocnice a firmy, které jim zajišťují bezpečnost datové infrastruktury, už kvalitně data zálohují. Proto nepotřebují platit výkupné. Takto se dnes bojuje s ransomwarem (vyděračský software – pozn. red.). Vzniká však nový byznys model hackerů, a sice zveřejnění privátních informací. Už to není jen o tom, že vám informace ukradnou, ale také hrozí, že je zveřejní. Tím poškodí pacienty, o něž se nemocnice starají a jejichž data spravují. V poslední době vidíme nárůst počtu takových útoků. Proto každému radím, když se ptá, co s tím dělat, aby data šifroval a šifroval. Rozšifrovat se mají jen tehdy, je-li potřeba s nimi nakládat. Když budou mít nemocnice většinu dat pacientů zašifrovanou a bezpečně uloženou, i v případě jejich ukradení je nelze jednoduše zveřejnit a pacienty poškodit.
LN Kde jsou dle vás teď největší kyberhrozby, když se podíváte na vzorek půl miliardy uživatelů produktů společnosti Avast?
Máme k dispozici jednak vlastní data o hrozbách, ale samozřejmě sledujeme i dění v kyberbezpečnostní
Jako profesor působí na Fakultě elektrotechnické ČVUT v Praze, kde vedl katedru počítačů.
Šéfoval vědeckým projektům, které ?nancoval americký Národní úřad pro letectví a vesmír (NASA).
Už v roce 2001 vybudoval Centrum umělé inteligence.
komunitě. V zásadě existují dvě skupiny trendů. První se týká útoků na software. Cílem druhého typu útoků bývá člověk. Avšak nedá se to od sebe zcela oddělit. Software, který používáme ve svých životech, je čím dál složitější. Je čím dál těžší udržet všechny jeho součásti bezpečné.
Software malé i velké firmy bývá složený z řady komponent. Hackeři se dnes pokoušejí nabořit podpůrné systémy. To byl i případ útoku SolarWinds v USA. Hackeři se nabořili do systému TeamCity, který se používá k vývoji softwaru. Ukázalo se, že jde o efektivní způsob, jak si mohou útočníci umístit nějaká zpětná vrátka pro vniknutí do systému. Kdekoli v řetězci softwarových firem, jež vyrábějí software, pomocí něhož se vyrábí jiný software, může útočník najít či třeba i vytvořit chybu, pomocí níž pak může zaútočit. Neatakuje se tedy konečný produkt, například systém pro správu lidských zdrojů ve velké společnosti, útočí se na software firmy, která systém vyrobila a udržuje. To je obrovská změna.
LN Jak vnímáte riziko v podobě uživatelů?
Odhaduje se, že 95 procent útoků vznikne kvůli chybě či opominutí člověka. Lidé nemají správnou „kyberhygienu“. V minulosti se útoky odehrávaly pomocí nezabezpečených flash disků. Dnes si lidé nemění hesla a nevěnují jim patřičnou pozornost. Loni se někomu podařilo uhádnout heslo k účtu Donalda Trumpa na sociální síti – MAGA2020 (zkratka Trumpova volebního hesla Make America Great Again – pozn. red). To je přitom heslo, které vystřelí každý algoritmus mezi prvními deseti. Lidé zkrátka používají hloupá, lehce uhodnutelná hesla.
LN Znamená to, že Trumpovi prolomil heslo počítač?
Je spoluzakladatelem úspěšného startupu Cognitive Security, který následně koupila firma Cisco Systems.
Od roku 2019 je technickým ředitelem společnosti Avast.
V roce 2015 byl zařazen na seznam výjimečných inovátorů New Europe 100.
Lze napsat poměrně jednoduchý algoritmus, který by se podíval na obsah sdělení Donalda Trumpa a sémantickou analýzou odvodil, jaká hesla by mohl se svojí slovní zásobou použít. Bylo by s tím ale podstatně více práce než se zamyslet a tipnout, co tam asi tak mohl napsat. V praxi se setkáváme spíše s kombinací chytrých útočníků, kteří využívají umělou inteligenci. U hesel, jež mají jen šest písmen a neobsahují číslice, není kombinací mnoho. Jdou snadno prolomit. Ne každý systém se navíc zablokuje při zadání třeba pěti chybných hesel, což je jinak dobrý nástroj pro ochranu hesla.
LN Jaký jiný špatný návyk v kyberhygieně pozorujete?
Lidé často klikají na obsah a přílohy, které by neměli otevírat. Reagují na e-maily, kde kdosi píše „jé, podívej se, jak na tom videu vypadáš“. Je to opět výsledek nízké kyberhygieny. A právě na to se soustředí útočníci. Proto v Avastu vyvíjíme technologie, které jsou blízko člověka a pomáhají mu nedělat hloupé chyby. Využíváme k tomu umělou inteligenci, abychom lidi od podobných útoků odstínili. Nechceme plýtvat znalostmi a časem našich bezpečnostních analytiků, aby řešili hloupé útoky. Zaměřujeme
se jen na komplikované útoky. Právě těch bude v budoucnu, možná během roku dvou, většina.
LN Z čeho usuzujete?
Na straně útočníků se používá umělá inteligence. Vyhodnotí si třeba, co píšete, co dostáváte za maily, a vědí, na co klikáte. Je velmi nebezpečné, že umělá inteligence dokáže odhadnout vaše kroky.
LN Jak je to možné?
I Facebook to umí. Dělá to proto, aby dokázal maximálně využít vaši pozornost a tu přetavit do příjmů z reklamy. Proto vám nabízí obsah, na který si kliknete. Úplně stejným způsobem pracuje útočník. Nabídne vám něco, na co chce, abyste klikl. Čím více soukromých dat dostane, tím snáze vytvoří například phishingový e-mail, jemuž uvěříte a kliknete na něj. Kdyby dnes někdo nabořil váš profil na Facebooku a ukradl ho, může z něj vytvořit velmi personalizované útoky, které neodhalíte. Řítíme se do nebezpečí úniku velkého množství privátních dat. Útočníci si mohou sbírat data o vás na internetu a stopovat váš internetový prohlížeč. Paradoxní je, že vlastní data lidé o své vůli rozdávají. Kvůli tomu, že existuje množství obsahu, který nás popisuje a je veřejně dostupný a strojově zpracovatelný, se stáváme zranitelnější před útoky umělé inteligence.
LN Co s tím?
Nejjednodušší by bylo hodit telefon do sudu s vodou. Za tuto míru osvobození však budete platit tím, že ztratíte komfort a služby, které nabízí internet. Takové binární osvobození není dobré, protože za něj platíte velmi vysokou cenu. Chtěl bych, aby se člověk mohl osvobodit co nejvíce od toho, co kdo o něm sbírá za data a vytváří jeho behaviorální model, aniž by přišel o uživatelský komfort.
Myslím si, že by bylo správné, aby modely, jež o nás velké společnosti sbírají a používají, vlastnili nakonec uživatelé. Aby model, který o mně Facebook vytváří, patřil mně. Jsem ochotný si za to i zaplatit. Chci mít volbu, abych mohl využívat službu na internetu a zároveň nesloužil jako produkt.
LN Život se dnes i kvůli cílené reklamě na sociálních sítích odehrává v čím dál uzavřenějším prostředí, bublině, což mívá neblahé následky. Jak z toho ven?
Mohla by vzniknout například aplikace, kterou bych si pustil vedle Facebooku, ve které bych viděl, jak vypadají moje bubliny. Když před zapnutím zpráv zjistím, že mi chce aplikace nabídnout sport, protože jsem se minulý týden někomu chlubil, jak jsem šel ráno běhat, budu moci vliv této bubliny snížit, protože mě to už nezajímá. To by platilo i v případě, že mi bude nabízet ke koupi zbraně, protože ví, že vlastním motorku Harley Davidson. Budu mít volbu toto označit za nesmysl, protože přece neplatí, že každý, kdo vlastní tuto motorku, je zároveň milovník zbraní. Neříkám, že lze bubliny zničit, lze však dát lidem nástroje, aby je mohli ovlivňovat. To dnes není. Člověk by tím žil na internetu šťastněji.
LN Kritizujete slabou regulaci využití umělé inteligence. Proč?
K regulaci řeknu tři poznámky. Za prvé, jsem rád, že EU reguluje osobní data v rámci GDPR a zakazuje rozpoznávání obličejů na veřejných prostranství, čímž chrání soukromí Evropanů.
Za druhé, nesouhlasím s ničím, co by vedlo k technologické suverenitě Evropy. To by znamenalo znemožnění používat nejlepší nástroje umělé inteligence, jež vzniknou v USA, a ne v Evropě. Když evropský byznys nebude moci využívat nejlepší nástroje umělé inteligence, které vzniknou v Kalifornii, bude tím pádem méně svobodný. Byl by také ekonomicky znevýhodněn. Liberální prostředí, jež dává svobodu kreativitě inženýrů a vědců, podporuje inovace. Nesouhlasím proto s kroky, které by měly vést k tzv. technologické suverenitě EU. Takové kroky nás povedou k nesvobodě a chudobě.
A za třetí, myslím si, že regulátorovi chybí kontakt s odbornou a vědeckou komunitou, jež se zabývá tím, aby porozuměla budoucnosti. Vzhledem k tomu, že v oboru umělé inteligence pracuje mnoho lidí, by bylo dobré, kdyby s akademickou obcí navázal těsnější vazbu.
LN Lze se podle vás ještě vrátit do doby, kdy byl internet především branou k poznání a novým obchodním příležitostem?
Když se takto zeptáte, musím odpovědět, že to nejde. Zároveň se však situace může zlepšit, když se inspirujeme z doby počátku internetu. Ten byl ve vysoké míře decentralizovaný. Avšak kvůli tomu, že dnes existuje jen několik obřích korporací, je vlastně internet velmi centralizovaný. Centralizace navíc neustále roste.
Velmi mi imponuje britský informatik sir Tim Berners-Lee, který v roce 1990 založil první webový server. Nyní rozvíjí projekt Solid (zkratka ze slov Social Linked Data – pozn. red.), který se zabývá právě decentralizací webu. Staví na uživatelské identitě a na tom, jak se může člověk na internetu prokazovat. Dnes se lidé prokazují přes login do velkých služeb jako Facebook, Apple či Google. V Česku nedávno vznikla BankID. Existuje několik velkých centralizátorů, kteří chtějí sjednotit identity. Vedle toho jsou však projekty decentralizované identity. Lidé jsou v nich schopní si spolehlivě prokazovat identitu navzájem, aniž by k tomu potřebovali centrální entitu.
LN Můžete uvést příklad?
Lze to ukázat na případu prokázání svého vzdělání. Dnes se to prokazuje tak, že ho máte uvedené na sociální síti LinkedIn. Když chceme nastoupit do zaměstnání, musíte mít fotokopii diplomu. To ale připomíná 19. století. Chtěl bych, aby bylo možné kliknout na univerzitu a ta by dokázala potvrdit, že jsem tam vystudoval. Jde o vztah mezi mnou a univerzitou. K tomu nepotřebuji BankID ani login do Googlu. Takto jde decentralizovat svět potvrzování. Projekt Solid sira Tima Bernerse-Lee nás tímto způsobem vrací ke kořenům internetu.
U hesel, která mají jen šest písmen a neobsahují žádné číslice, není kombinací mnoho. Jdou snadno prolomit.