Ľudia sú na príchod AI extrémne nepripravení

Do seriálu Päť kníh vybral informatik Tomáš Halgaš diela o umelej inteligencii, ktoré sa podľa neho oplatí prečítať

Umelá inteligencia už nie je len zápletka v scifi príbehoch, ale súčasťou našich každodenných životov. Ako sa vyvíja a ako zmení svet, hovorí Tomáš Halgaš, ktorý umelú inteligenciu (AI) študoval v Oxforde.

Umelú inteligenciu ste študovali na univerzite v Oxforde. Ako k tomu došlo?

Bol som pomerne šikovný študent, taký typický jednotkár. Robil som aj rôzne matematické súťaže a veľmi ma bavilo programovanie. Najprv som hrával počítačové hry, potom som ich upravoval a nakoniec ma už ani nebavilo ich hrať. Len som sa bavil na tom, čo všetko viem zmeniť a vymyslieť. Keď som si mal vybrať univerzitu, učitelia aj rodičia mali odo mňa veľké očakávania. Dostal som vtedy knižku Good University Guide, a ako najlepšia univerzita v nej bol uvedený Oxford. Tak som si povedal, že to skúsim. Samozrejme, prihlášky som si poslal aj na iné univerzity, ale chcel som skúsiť aj tú najlepšiu. Nakoniec to vypálilo tak, že ma prijali.

Čím vás umelá inteligencia tak oslovila?

Dovtedy všetko, čo som programoval alebo upravoval, som musel riadok po riadku vlastnoručne nakódovať. No zrazu tu bol algoritmus, ktorý som vedel naprogramovať, aby sa učil sám. A potom to vedel robiť, a to často ešte lepšie ako ja.

Medzi piatimi knihami, ktoré ste vybrali, je aj knižka Artificial Intelligence: A Modern Approach. Z nej ste sa učili už na Oxforde?

Profesori z nej vyberali jednotlivé kapitoly. Šprti ako ja si prečítali aj viac. Je to kniha, ktorá dá veľmi dobré intro o tom, čo je umelá inteligencia, ako o nej rozmýšľať, kde sa končia ľudsky písané algoritmy a začína umelá inteligencia, alebo kde sa to prelína so strojovým učením.

Kniha vyšla prvýkrát v 90. rokoch, teraz je k dispozícii už štvrtá edícia. Tá kniha sa asi musela úplne zmeniť, nie?

Základy, teória a definície budú stále veľmi podobné. Slovné spojenie umelá inteligencia vzniklo v 50. rokoch minulého storočia a veľa teoretických a filozofických problémov je dodnes rovnakých.

Je to vyše tisícstranová kniha. Nakoľko je zrozumiteľná aj pre človeka, ktorý neštudoval matematiku a informatiku na vysokej škole?

Veľká časť je napísaná naozaj veľmi prístupne. Pre človeka, čo nečíta odbornejšiu literatúru, to môže byť trošku suché. Prípadne môže mať dojem, že sa kniha príliš venuje presným definíciám. Ale inak je to prístupné.

V čom sa odlišuje fungovanie ľudského mozgu od fungovania umelej inteligencie?

Veľmi veľa nápadov aplikovaných do umelej inteligencie máme práve z prírody a z pochopenia toho, ako funguje mozog. Keď som bol na univerzite, tak jedni z najšikovnejších študentov umelej inteligencie mali bakalára z neurovedy. Prišli na to, že keď zmapujeme, ako funguje napríklad ucho, tak sa môžeme naučiť, ako môže umelá inteligencia lepšie spracovať zvuk. Veľa takýchto zistení sa dnes pridáva do umelej inteligencie. Zaujímavé je aj, že ľudský mozog má stále o dosť väčšiu výkonnosť ako tie najväčšie počítače. Prebiehajú v ňom oveľa komplikovanejšie procesy. Každý neurón v mozgu je oveľa zložitejší ako umelý neurón, ktorý vieme naprogramovať. V počítači však vieme urobiť výpočty oveľa rýchlejšie.

O mozgu a AI je aj kniha How to Create a Mind.

Na nej je krásne, že dá človeku skvelú intuíciu o tom, ako sa dajú neuróny poskladať a vytvoriť niečo oveľa inteligentnejšie. Mozog napríklad rozoznáva čiernu a bielu. Keď sa niekoľko neurónov spojí a vidia niečo čierne v rade a okolo toho biele, tak chápu, že je to čiara. A keď spojíme ďalšie neuróny, sú tam dve čiary. Keď sa pridajú ďalšie neuróny, zistíme, že je to písmeno L. Zrazu vidíme celé slovo a na vyššej úrovni viem, čo to slovo znamená. Tá kniha krásne vysvetľuje, čo všetko sa dá z malých súčiastok vyskladať.

Prečo je vývoj v oblasti umelej inteligencie taký dynamický?

Keď som rozmýšľal, ktoré knihy odporučiť, tak som chcel vybrať aj The Structure of Scientific Revolutions (Struktura vědeckých revolucí) od Thomasa Kuhna. On opisuje momenty, keď musí nastať nejaký zlom, ktorý odomkne veľmi veľa nového vývoja. Potom sa to na nejaký čas zas zasekne a čakáme na novú inováciu. V podstate celá veda sa vyvíja takýmito skokmi. Vidíme to veľmi pekne aj v umelej inteligencii. Na začiatku boli veľmi jednoduché štatistické algoritmy, veľa vecí to dokázalo urobiť, no potom sme sa zasekli. Neskôr sme vymysleli umelé neuróny, vďaka tomu sa podarilo veľa vecí a opäť sa to zaseklo. Potom prišli ešte možno jedna alebo dve podobné revolúcie. Teraz nám veľa vecí odomkol vynález transformerov. Jeden revolučný vedecký článok tvrdil, že „attention is all you need“, teda pozornosť je všetko, čo treba. Takýto algoritmus je teda schopný zo všetkého, na čo sa pozerá, vybrať, na čo sa treba zamerať a z toho ponúkne nejaký výsledok.

Tretia kniha, ktorú ste vybrali, má názov The Alignment Problem. To v preklade znamená problém zosúladenia či zladenia. Jeho podstatou je, že chceme, aby AI napĺňala naše zamýšľané ciele. Ako sa to dá lepšie vysvetliť?

Tá knižka ukazuje, ako sa boríme s tým, aby sa umelá inteligencia naučila to, čo chceme, aby sa naučila. Problém totiž je, že sa učí veľa vecí, ktoré ani nechceme, aby vedela. Kniha povedzme opisuje použitie umelej inteligencie v súdnictve. V USA už fungovali algoritmy, ktoré spracovali materiály o jednom súdnom prípade. Počítač vypočítal, že riziko, že dotyčný daný čin spravil, je pomerne veľké, takže by sme ho mali dať do väzby. Keď sa na to začali vedci pozerať, zistili, že stačilo zmeniť rasu. Teda, že ak boli ľudia napríklad afroamerického pôvodu, tak podľa algoritmu bolo pravdepodobnejšie, že čin spáchali. To sú veci, ktoré sa umelá inteligencia učí od ľudí, no nemala by sa to učiť. Tieto prípady totiž môžu mať štatistickú koreláciu, ale určite to nie je kauzalita. Zaujímavé na tom je, že takéto veci by sa naučil aj človek. No my chceme, aby sa ich algoritmus naučil ešte lepšie ako človek. Teda, napríklad, aby odstránil naše vlastné predsudky.

Aké to môže mať dôsledky?

Najvážnejšie implikácie tohto alignment problému sa podľa mňa prejavili na sociálnych sieťach. Snažili sme sa vytvoriť umelú inteligenciu na odporúčanie príspevkov, aby sme mali úplne skvelú sociálnu sieť, na ktorej sa budeme spolu baviť. Ale ako to vysvetliť umelej inteligencii? Keď sme chceli, aby umelá inteligencia maximalizovala množstvo aktivity, ktorú používatelia na sociálnych sieťach vykonávajú, veľmi rýchlo prišla na to, že sa to dá dosiahnuť tak, že bude odporúčať obsah, ktorý je šokujúci, negatívny či polarizujúci. Prvý veľký stret na svetovej úrovni s umelou inteligenciou sme teda vôbec nezvládli.

Štvrtá kniha, ktorú odporúčate, sa volá Život 3.0. O čom je?

Je to naozaj dobrá štúdia asi všetkých možností, ktoré nás môžu čakať. Problémom je, že veľmi veľa scenárov je dystopických. Nepáči sa mi napríklad budúcnosť, v ktorej už človek nemá ako pridať nejakú hodnotu a len si užíva. Nepáči sa mi ani budúcnosť, v ktorej oveľa inteligentnejšia umelá inteligencia ovládne ľudstvo a budeme žiť v nejakom Matrixe. Ukazuje sa, že na scenároch, ktoré by sa nám mohli páčiť, treba veľmi pracovať, alebo sa treba aspoň veľmi aktívne usilovať o to, aby niekto umelú inteligenciu nezneužil.

Veríte tomu, že sa nám podarí dosiahnuť tie pozitívnejšie scenáre?

Som ľahko až mierne optimistický. Veľa šikovných a bystrých ľudí sa týmto problémom venuje. Poznám osobne ľudí aj vo firmách, ako je OpenAI, ktorým na týchto veciach záleží a aktívne sa venujú AI bezpečnosti. Existuje teda pomerne veľká nádej, že aj pomocou týchto veľkých firiem môžeme umelú inteligenciu kontrolovať.

Posledná knižka, ktorú ste vybrali, je Spravedlnost. Nie je to kniha o umelej inteligencii, prečo ste ju teda vybrali?

Je to knižka o ľudských hodnotách a o tom, čo je spravodlivosť. Opisuje, ako sa v histórii vyvíjalo, čo sme považovali za spravodlivé. A ponúka veľa otázok na zamyslenie. Človek si pri jej čítaní uvedomí, že ani my ľudia sa často nevieme dohodnúť, čo je spravodlivosť, a aké by mali byť naše hodnoty. Ako teda chceme dať nejaké hodnoty umelej inteligencii?

Aké východisko vidíte?

Bude to na týchto pár veľmi vplyvných jednotlivcoch, aby dali dokopy nejaké riešenie.

Očakávate, že by tak mohli vzniknúť nejaké globálne štandardy, na ktorých by sa dohodol celý svet?

Skôr budeme vidieť nejaké západné modely, ktoré budú reflektovať západné hodnoty a kultúru. A nejaké východné modely, ktoré budú nastavené úplne inak.

Ľudia vás môžu poznať ako Slováka, ktorý predal svoju firmu Twitteru, a potom možno z tlačovej besedy Mikuláša Dzurindu, keď oznamoval návrat do politiky a vás predstavil ako jeden z talentov v jeho strane. Ako dnes vidíte svoju politickú budúcnosť?

Som otvorený, ale je to otázka možností a načasovania. Je veľa vecí, ktoré potrebujeme urobiť, ale najprv musíme vyriešiť niektoré oveľa závažnejšie politické otázky, v ktorých nemám až takú expertízu. Napríklad, aké má byť smerovanie krajiny. Keď ich vyriešime, možno sa vytvorí priestor aj pre človeka, ako som ja, ktorý by chcel pomôcť pripraviť Slovensko na umelú inteligenciu a podobne.

Ľudský mozog má stále o dosť väčšiu výkonnosť ako tie najväčšie počítače. Každý neurón v mozgu je oveľa zložitejší ako umelý neurón, ktorý vieme naprogramovať.