Nechoďte za chatboty pro informace
Umělá inteligence promění práci s textem i sociální služby. Dle profesora Michala Pěchoučka by se neměla podceňovat její rizika
Patří mezi přední experty na rozvoj umělé inteligence známé pod anglickou zkratkou AI (Artificial Intelligence).
Technologický šéf společnosti Gen Digital
Michal Pěchouček přibližuje revoluci, kterou doprovázejí chatboti neboli roboti, s nimiž si můžete povídat.
LN Hrajete si s chatboty typu GPT a Bing?
Vyzkoušel jsem je. Hraji si s nimi jako každý, koho zajímají technologie. Není to ale pro mne prostředek, který by mi jako technologovi osobně pomáhal. Snažím se díky nim pochopit skrytá nebezpečí. Lidé se často mylně domnívají, že se chatbot zamyslí a podívá na internet, něco z něj stáhne, zanalyzuje to a pak vše vysvětlí. Ve skutečnosti je to ale jazykový model poplatný internetu roku 2021. Dokáže s námi ale sofistikovaně interagovat. Zvládnout jazyk sice představuje důležitou součást inteligence, ale neznamená to, že chatbot spustí nějaký algoritmus plánování, uvažování, zobecňování atd. To prostě dnes nedělá.
LN V lednu si ChatGPT vyzkoušelo 100 milionů lidí. Zaskočil vás tento zájem?
Mile mě to překvapilo. Vlastně každý v tomto byznysu tak trošku chce, aby něco podobného zažil s vlastním produktem. Je to prvně, kdy se AI dostala do rukou uživatelů jako koncový produkt. Původně s ní firmy pracovaly a s její pomocí nabízely produkt. Nyní lidé dostali do ruky AI v syrové podobě, aby s ní sami pracovali. To je revoluce.
LN Jak by znělo vaše doporučení pro uživatele chatbotů?
Doporučení číslo jedna zní, nechoďte k chatbotovi pro informace. Měli byste si je získat jiným způsobem, například prací s ověřenými zdroji. Šance, že se splete, odpovídá pravděpodobnostně tomu, kolik je na internetu nepravdivých informací. Internet není garance pravdy. Obsahuje mnoho lží. Šance, že se to zrovna odrazí v odpovědi na vaše hledání, existuje. A je velká.
LN Co tedy navrhujete?
Podle mého názoru je člověk dnes kvalifikovanější k tomu, aby rozpoznal pravdu od nepravdy, dá-li si tu práci. Uživatelé by měli pracovat s informacemi, které vyprodukovali lidé, kterým důvěřují. Měli by se pídit po autorovi a zdrojích, z nichž čerpal. Nevěřím na automatické filtrování nepravdivé informace. Technologie by měly člověku usnadnit se správně rozhodovat, a ne jednoduše cenzurovat.
LN S čím jiným než s žádostí o informace bych se ale měl na chatbot obracet?
Může pomoci při sestavování textu. Kdybych byl například investigativní novinář, mohl bych si díky chatbotu odpustit dlouhou práci s textem, abych měl více času na vlastní pátrání. AI by za mě napsala text, do kterého bych jen vložil svá zjištění, která jsem odhalil.
Požádali jsme ChatGPT, aby nám vygeneroval několik otázek pro tento rozhovor. Jedna z nich zněla: „Může lidská rasa zabránit vzniku inteligentních strojů, jako jsem já, které by se mohly stát nebezpečím pro její existenci?“Jak byste mu odpověděl?
LN
Odpověď bych rozdělil do dvou částí. První je otázka, do jaké míry nás může AI ohrozit. Věřím na černé labutě coby neočekávané jevy způsobené naší závislostí na technologiích a AI. Dokážu si představit situaci, kdy AI bude preferovat dostupnost energie pro vlastní výpočet. Například při optimalizaci systému může dojít k neočekávanému a potenciálně nebezpečnému jevu. AI bude například regulovat spotřebu energie, ale v rámci takové optimalizace začne
vypínat služby, které mohou v návaznosti způsobit paniku. Zároveň to ale není tak, že by se AI rozhodla, že chce člověku ubližovat a že ho chce strategicky eliminovat. Obavy tohoto druhu považuji za kontraproduktivní. Napadají mne mnohem pravděpodobnější hrozby.
LN Jaké?
Jde o situace, kdy člověk zneužije AI ve svůj vlastní prospěch a v neprospěch někoho jiného. Nejprimitivnějším příkladem jsou velké firmy, které na internetu zneužívají AI tak, že vmanipulují člověka do situace, aby dělal to, co se dá zpeněžit.
je práce dobře automatizovatelná a svým způsobem amatérská právě díky použití jazykových modelů. Ta vymizí.
LN Vím, že varujete před předvýběrem při vyhledávání, který nám na základě osobních dat servírují vyhledávače. Řada lidí to ale může vnímat jako ulehčení. Odpadá přece složité rozhodování. Co o tom soudíte?
To je velmi nebezpečné uvažování. Dramatickým způsobem to snižuje odolnost člověka se rozhodovat i jeho odolnost vůči manipulaci. Vlastně se přestává umět rozhodovat. Když pak na něco narazí, není schopen rozpoznat,
Na základních školách se děti musí jednak naučit psát samostatně, ale zároveň se musí naučit úkolovat chatbota. Dítě se musí naučit problém popsat abstraktně, vysvětlit ho spolužákům, sobě i chatbotovi, aby byl chatbot pro žáka při řešení problému opravdu užitečný. To může být změna, která donutí učit se abstraktně uvažovat daleko větší populaci, než tomu bylo doposud.
Srovná AI startovní čáru ve společnosti, nebo naopak urychlí rozdělení civilizace na technologicky zdatnou a nezkušenou?
LN
Platí obojí. Abych si mohl založit živnost jako například designér oblečků do počítačových her, potřeboval jsem umět programovat. Teď už to nutné nebude. Avšak pro lidi, kteří vystudovali programování na horších školách a v práci se neučí nové věci, může časem vzniknout velký problém s rekvalifikací na programátorskou práci podporovanou jazykovými modely.
LN Neděsí vás, že budeme s AI trávit tolik času, že převáží nad mezilidským kontaktem?
V dnešní době bych nepřeceňoval mezilidský kontakt. Ukazuje se, že dokáže být toxický. Negativní vývoj společnosti za posledních patnáct let byl daný tím, že se lidi uzavírali do svých sociálních bublin.
Tomu rozumím, ale bude skutečně lepší, když budeme trávit hodiny tím, jak komunikovat s chatbotem, místo toho, abychom mluvili přímo například s klientem v domově seniorů, který je sám?
LN
Babička v pečovatelském domě by si zasloužila, aby tam s ní byla spíš asistentka než chatbot. Lidí vykonávajících pomocné profese asistentek je a vždy bude málo. V některých takových případech může AI chatbot dramaticky zvýšit počet lidí, kterým je pomoženo. Pomůže s částí interakce s klienty. Například psychologický terapeut budoucnosti může použít AI, aby se rychleji zorientoval v prvotní screeningové fázi nebo při práci s jeho kartotékou. S chatbotem bude chodit mezi klienty podobně jako šéfkuchař v restauraci a pouze dolaďovat detaily. Pomocné péče, jak ji známe dnes, bude čím dál tím méně a bude méně nedostupná. Věřím tomu, že různé nasazování AI ji opět udělá pro velkou část populace dostupnější.
LN Jak nás ta interakce s AI může dále změnit?
Lidé se nebudou chtít učit cizí jazyky. Díky AI totiž vznikne aplikace jazykových modelů. Dojde k propojení vnímání a generování mluvené řeči. Lidé si budou moct dát do ucha sluchátko, v němž rovnou uslyšíme překlad. Považuji to nicméně za velkou škodu, protože znalost cizího jazyka rozvíjí představivost, cvičí mozek a poznáváme díky tomu jinou kulturu.
Jaké dříve těžko představitelné věci jsou dnes díky AI realitou?
LN
Příkladem je proboření neprolomitelné šifry Crystals, kterou schválily USA pro použití ve vládních úřadech. Měla být odolná i vůči útokům kvantových počítačů v budoucnosti. Jenže minulý týden ji AI prolomila. To nikdo nečekal. Experti proto musejí nově vyvíjet šifry dostatečně robustní a odolné vůči strojovému učení.
LN Očekáváte souboj hodných a zlých AI?
To už se děje. Kyberbezpečnost už dnes funguje jako boj umělé inteligence proti umělé inteligenci. V Avastu vidíme, že 70 procent kyberútoků je dnes vedeno ne na počítače, servery a sítě, ale na lidskou mysl, kterou se snaží ošálit (tzn. kognitivním útokem). A právě nové schopnosti AI a chatbot těmto útočníkům výrazně pomohou s efektivitou i četností kognitivních útoků. Podvody a manipulativní texty budou vznikat strojově. Když se propojí s osobními informacemi o uživatelích a kradenými identitami, AI může vytvořit extrémně důvěryhodné e-maily, zprávy, příspěvky, na které budou lidé klikat. Jeden z mých velkých úkolů nyní je vymýšlení technologie, která nás bude chránit před očekávanou explozí takových kognitivních útoků.
LN Letos v policii vznikla jednotka pro boj s kyberzločinem. Co byste detektivům poradil?
Posledních 30 let civilizace investovala do obrany před škodlivým softwarem. Proto byla vždycky o krok před útočníky. Učili jsme se chytat viry. Kdo si koupil patřičný software na ochranu, měl víceméně klid. V případě nových typů hrozeb nás to čeká znova.
LN Jste technooptimista, či technopesimista?
Jsou dva názory. Jeden říká, že bychom měli zpomalit a žít více v souladu s přírodou. Jen tak se dokážeme dostat z marasmu, ve kterém jsme se ocitli. Já bohužel, ačkoliv bych hrozně chtěl stát na této straně, tam nejsem. Myslím si, že musíme naopak zrychlit. Ne ve spotřebě, ale ve vývoji technologií a ve vědeckém poznání. Potřebujeme udělat rychlé pokroky, abychom co nejdříve posunuli vědu například k zajištění čistých zdrojů energie. A to ne za 20 let, ale za dva roky. To samé platí v oblasti nedostatku vody či nedostupnosti zdravotní péče. Kdybychom se bavili před 50 lety, řekl bych, že je potřeba zpomalit. Ale teď nemůžeme zvolnit.