Umělá inteligence dá jen jednu šanci

Vytvořit něco inteligentnějšího, než jsme my, by mohla být darwinovská chyba, říká slovenský počítačový vědec Martin Spano

V poslední době se často hovoří o umělé inteligenci. Podle slovenského počítačového vědce Martina Spana v blízké budoucnosti sice člověka nenahradí, ale v daleké určitě ano. Navzdory svému opatrnému optimismu, jde-li o technologický pokrok a umělou inteligenci, se domnívá, že neuškodí, když budeme opatrní. Pokud se na případnou hrozbu nepřipravíme, druhou šanci nedostaneme. Je to „nová elektřina“, má potenciál přetvořit všechny současné byznysy. Pomůže konečně porazit obávané nemoci.

LN Co je umělá inteligence?

Umělá inteligence je, zjednodušeně řečeno, inteligence, kterou projevují stroje. Na rozdíl od té lidské. Příkladem umělé inteligence je v populární kultuře Terminátor nebo Wall-E, v technologiích pak autonomní auta či virtuální asistenti, jako je Siri či Alexa. Dvojsloví umělá inteligence však nebylo zvoleno ideálně. Je to skvělý název až na dvě věci – slovo umělá a slovo inteligence.

Slovo umělá může znamenat, že je projevena neživými bytostmi, nebo že je simulovaná, a nikoli skutečná. A slovo inteligence je také problém, protože se vědci neshodnou, co to je, a jak se u nás vyvinula. Ale jak se říká, měl bys tančit s dívkou, kterou jsi pozval na rande, i my musíme pracovat s tímto slovním spojením.

LN Jak byste popsal rozdíl mezi umělou inteligencí a všeobecnou umělou inteligencí, tedy Artificial General Intelligence?

Umělá inteligence, nebo, přesněji řečeno, úzce specializovaná umělá inteligence, je typ, který už máme i v současnosti, a dokonce ve všech sférách života. Navrhuje nám produkty při online nákupech, či filmy a hudbu na streamovacích službách, filtruje e-maily od spamu či řídí v autonomních autech. Jejím specifikem je, že dokáže dělat pouze jednu konkrétní činnost, na kterou byla vycvičená, třeba samostatně jezdit v případě autonomních aut. Zkuste ale takovému autu říct, aby vám uvařilo svíčkovou, a ani se nepohne.

Víc dovedností, podobně jako člověk, má až všeobecná umělá inteligence. Ta je však zatím předmětem filmů, jako je zmíněný Terminátor nebo Wall-E. Většina vědců, kteří pracující v oboru, předpokládá vytvoření obecné umělé inteligence téměř jistě v tomto století, někteří odvážnější dokonce za jedno až dvě desetiletí. Mně osobně to vychází v letech 2040 až 2050.

LN Významnou složkou umělé inteligence jsou sebeučící se algoritmy. Co to znamená?

Obor umělá inteligence má za sebou přibližně 60 let. Na začátku si jeho představitelé mysleli, že umělou inteligenci vytvoří tak, že ji naprogramují – podobně jako počítač. Počítačový program je tvořen zdrojovým kódem. Představme si jej jako dlouhý a podrobný kuchyňský recept. Stačí však jediná chyba v tomto „receptu“a program přestane fungovat.

To je jeden z důvodů proč my, programátoři, tak dobře vyděláváme (smích). Tímto způsobem by se umělá inteligence programovat nedala. Stačí se však podívat, jak se učí malé dítě. Neřeknete mu vždy přesně, co má dělat, dáte mu základní instrukce, aby se ve světě zorientovalo, a učí se samo. Na tomto principu fungují sebeučící se algoritmy, které pohánějí současnou umělou inteligenci.

LN Které společnosti, univerzity a jednotlivci patří mezi nejlepší v oblasti umělé inteligence?

Microsoft, Amazon, Apple, Alphabet a Facebook. Co mají tyto firmy společného? Za prvé, podle tržní hodnoty jde o pět největších firem na světě. Za druhé, všechny prohlašují, že ve svých produktech nasazují umělou inteligenci. Kdybych z nich měl vybrat jednu, pak Alphabet – čili Google –, konkrétně jimi vlastněná firma DeepMind, jejíž umělá inteligence AlphaGo porazila mistra ve hře GO, řádově složitější hře než šachy.

Co se týče univerzit, pak Carnegie Mellon University, Stanford a MIT. Výzkumníci z oblasti umělé inteligence nejsou veřejnosti příliš známí, takže většině jména, jako je Geoffrey Hinton, Andrew Ng, Yann Lecun či Yoshua Bengio, nic říkat nebudou, přestože v oblasti umělé inteligence jde o žijící legendy.

LN Úvahy, že by umělá inteligence nahradila člověka, jsou staré. Můžete některé připomenout?

Už Aristoteles ve své knize Politika uvažuje o tom, že jediný způsob, jak zrušit otroctví, které bylo v té době běžné, by byl, kdyby otroky nahradily automaty, tedy něco jako předchůdci robotů. Karel Čapek ve svém díle R.U.R. ve 20. století upozorňuje na nebezpečí přenechání veškeré práce robotům, čímž toto slovo poprvé definuje, i když jeho skutečným vynálezcem byl jeho bratr Josef.

V posledních letech se díky Nickovi Bostromovi (švédský filozof a futurolog a autor knihy Superinteligence – pozn. red.) a Elonu Muskovi dostává existenciální problém vyspělé umělé inteligence znovu do popředí (Bostrom tvrdí, že vytvoření umělé inteligence by pro lidstvo mohlo představovat existenční riziko – pozn. red.). Pravdou ale je, že vytvořit něco inteligentnějšího, než jsme my, by mohla být základní darwinovská chyba.

LN Proč se v současnosti začíná zase hovořit o umělé inteligenci?

Ze tří důvodů. Za prvé, našli jsme způsob, jak ji efektivně vytvářet, a to pomocí strojového učení, konkrétně algoritmu zvaného hluboké učení. Zjednodušeně řečeno, tímto algoritmem napodobujeme funkci lidského mozku vytvářením umělých neuronových sítí.

Za druhé, učení funguje pouze za předpokladu, že máme dostatečné množství učebního materiálu, v případě strojů jsou to data, takzvaná big data, jež se pomocí velkého množství chytrých zařízení a sociálních sítí daří v poslední době generovat. A za třetí, tyto algoritmy a data potřebují velkou počítačovou sílu, kterou jsme díky Moorovu zákonu dosáhli.

LN Jsme blízko tomu, že umělá inteligence plně nahradí člověka?

Blízko ne, v daleké budoucnosti ale určitě ano. Vyplývá to z podstaty technologického pokroku. Ten by se musel zastavit, aby tomu tak nebylo. Takže v daleké budoucnosti nastane doba, kdy člověk nebude muset pracovat. To není nutně špatné, protože práce není to jediné, co člověka šlechtí. Člověk se bude moci více věnovat sám sobě, a tím předefinovat své místo ve světě, jako bytosti, která tvoří a zkoumá.

LN Byla by umělá inteligence dobrý sluha, či zlý pán?

Záleží jen na nás. Nepředpokládám, že by umělá inteligence jednou převzala kontrolu nad světem. Ona už jej i v současnosti ovládá, jen si to neuvědomujeme, protože nám při našich každodenních činnostech v pozadí pomáhá.

Nebezpečím spíše je, že by se k této technologii v jejím pokročilém stadiu mohli dostat lidé, kteří to se světem nemyslí dobře. Tomu se i já jako podporovatel institutu Future of Life, který založil Max Tegmark (švédsko-americký fyzik a kosmolog – pozn. red.), nebo Bostromova institutu Future of Humanity snažím Slovenský počítačový vědec. Na Matematicko-fyzikální fakultě

■

Univerzity Karlovy vystudoval obor počítačová věda.

Pracuje jako expert na strojové učení

■

a je členem Asociace pro rozvoj umělé inteligence a Evropské aliance pro umělou inteligenci.

Na Slovensku vystupuje jako

■

popularizátor umělé inteligence.

Podílel se na návrhu slovenské strategie

■

pro rozvoj umělé inteligence, která byla včleněna do iniciativ Slovak-AI, slovenského centra pro výzkum umělé inteligence, které vzniklo v rámci

Slovenské technické univerzity v Bratislavě.

Napsal knihu Umělá inteligence

■

v ořechové skořápce, která vyšla také anglicky. ■ svým malým příspěvkem zabránit. Až v budoucnosti se ukáže, zda se nám to podařilo.

LN Jak se díváte na aktivity filozofa Nicka Bostroma v této oblasti? Představuje umělá inteligence existenciální riziko pro lidstvo?

Velmi jeho aktivity podporuji, i když jsem v těchto otázkách větší optimista. Nicméně neuškodí, když budeme opatrní, protože pokud se v tomto případě na případnou hrozbu dobře nepřipravíme, druhou šanci nedostaneme.

LN Bylo již v oblasti umělé inteligence sestrojené něco, co je podobně inteligentní aspoň jako mravenec?

Nejblíže k tomu má Google a jeho projekt Google Brain či jím vlastněná firma DeepMind. Musím ještě jednou poznamenat, že současná umělá inteligence je úzce specializovaná, tedy dokáže dělat jen jednu činnost, ale často lépe než člověk. Na obecnou umělou inteligenci si ještě musíme počkat.

LN Pokud sestrojíme umělou inteligenci na úrovni mravence, jak daleko bude od mravence k člověku?

Rychlost technologického pokroku je exponenciální, proto to bude několikanásobně kratší čas než se dostat k mravenci.

LN Není umělá inteligence trochu „buzzword“? Všude se o ní mluví, dávají se na ni granty, ale významných projektů je málo?

Vůbec ne. Umělá inteligence tvoří jádro většiny významných současných technologií. Je to „nová elektřina“, má potenciál přetvořit všechny současné byznysy. Pomůže konečně porazit obávané nemoci, jako je rakovina, či vymanit z bídy celý svět. Mám proto pocit, že by se jí mělo dostávat ještě více prostoru.

LN Umělá inteligence souvisí se svobodnou volbou, kterou se také zabýváte. Máme ji?

Ne v takové míře, jak si myslíme. Od počátku se filozofové dělí na dvě skupiny. Na deterministy, kteří jsou přesvědčeni, že naše chování je při naší dokonalé znalosti přesně předvídatelné. Mezi ně patřil například Isaac Newton či Albert Einstein. A na libertariány – nezaměňovat s politickým přesvědčením – přesvědčené o svobodné vůli. Běžný člověk má pocit, že má svůj osud pevně v rukou, ale na základě novodobých neurovědeckých pokusů, jako je Libetův experiment, tomu tak nemusí být.

LN Co je Libetův experiment?

V tomto slavném experimentu z roku 1983 americký neurovědec Benjamin Libet požádal účastníky, aby zdvihli prst, když budou chtít, a zapamatovali si čas, kdy to udělali. Zároveň elektrodami měřil mozkovou aktivitu. Výsledek všechny zaskočil. Průměrně půl vteřiny před tím, než si účastníci pokusu uvědomili své svobodné rozhodnutí zvednout prst, mozek už věděl, že to učiní.

Tento pokus byl několikrát později zopakován s modernějšími technologiemi se stejnými šokujícími zjištěními. Čili podle nejnovějších neurovědeckých poznatků je myšlenka absolutní svobodné vůle pouze iluze, trik našeho vědomí na nás. V každém případě ale – podle mého názoru – můžeme živelně vznikající neurální aktivity způsobující naše chování naší svobodnou vůlí korigovat.

LN Inteligence možná vyžaduje vlastní vědomí. Podaří se ho uměle vytvořit?

Nejprve musíme zjistit, proč a jak vzniklo vědomí u nás. Jak již řekl Shakespeare: „Krása tkví jen v oku pozorovatele.“To znamená, že kdyby u nás nevzniklo vědomí, všechna krása kolem nás, celý vesmír, by byl zbytečný. Byli bychom pouze jako zombie, jako biologičtí roboti, kteří by vše sice viděli, ale nevnímali.

Přesně tak dnes svět vnímá umělou inteligenci. Je sporné, zda jednou bude vnímat prostředí jako my, pomocí subjektivního vědomí. Podle mne by bylo lepší, kdyby vědomí nikdy neměla. Asi byste se nechtěli vrátit jednoho dne domů s tím, že je v ledničce vše rozpuštěné, neboť se vaše smart lednička zamilovala do robotického vysavače, a vzniklo z toho teplo.

LN Můžeme naučit umělou inteligenci uvědomit si, co je dobré, a co špatné, když to sami někdy nevíme?

Bostrom by asi odpověděl ne, zkusím být opatrný optimista. Když se objevily jaderné zbraně a byly shozeny v Japonsku, všichni si mysleli, že to má lidstvo spočítané. Podobně to bylo i v případě biologických zbraní. Ale jsme zde pořád. Nechtěl bych podceňovat nebezpečí, které nám hrozí, pokud to však zvládneme, čeká nás bezprecedentní zlatý věk, o který bychom se společně měli snažit. Technologický pokrok je totiž řešením všech problémů lidstva.