Jste jenom číslo
Čínský rating občanské spolehlivosti je reálná hrozba, na kterou si musíme dát pozor i my
Každoročně se doslova stovky milionů Číňanů vydají na cestu za rodinami, aby tradičně oslavili příchod nového lunárního roku. Často jde o lidi, kteří pracují v megapolích na pobřeží a jde pro ně o jednu z mála cenných příležitostí, kdy se podívají domů. Letos se ale dost možná statisíce z nich nikam nevydaly. Nákup letenky nebo lístku na vlak jim mohl zablokovat systém sociálního kreditu, který podle posledních zpráv loni zabránil odletět 17,5 milionu „nespolehlivých“a odjet dalším pěti a půl milionu. Prostě proto, že se dostali na černou listinu kvůli občanské nespolehlivosti, nebo třeba nezaplacené pokutě.
Zní to jako absurdní nástroj totalitní moci? Něco, co by naše společnost nemohla nikdy připustit? Jistěže ano, ale co kdyby se situace jen trochu změnila. Co kdyby se nějaké omezení vztahovalo třeba na rodiče, kteří neplatí alimenty na své děti? Už dnes mu přece může exekutor odebrat řidičský průkaz a prý to zabírá. Ale co když neřídí, nešlo by to kapku rozšířit? Ostatně tady už bodový systém máme, tak co třeba nějaký ten bodík za rušení nočního klidu pro souseda, který vyřvává celou noc a z tisícikorunové pokuty si nic nedělá?
Problém je, že podobné systémy jsou na první pohled jen o málo nebezpečnější, než jak moc jsou přitažlivé. Představa, že by šlo někoho „vybodovat“, je lákavá, tedy dokud nejde o nás samotné. Na druhé straně je přece skvělé, že pro mě přijede řidič taxi s dobrým autem a hodnocením zákazníků, že dostanu slevu v obchodě nebo levnější půjčku. Až do chvíle, kdy zjistím, že mi hodnocení spadlo, nevím proč a nevím, co s tím mám dělat. Prostě se nesvezu, nekoupím nebo si nepůjčím a není žádné odvolání. Taková kafkovská situace přitom přesně ukazuje na klíčovou hranici, za kterou nesmějí přejít nejen státy, ale především soukromé firmy.
Papírový tygr na A
Nejspíš nepřekvapí, že se čínské úřady pochlubily, jak jejich ratingový systém funguje – své závazky už raději pod tlakem uhradilo 3,5 milionu lidí. Zásadní je v tomto případě samozřejmě kontext komunistické totality, ve kterém se orwellovský scénář odehrává. Ale kterou nejen u nás, ale především na Západě řada lidí podceňuje. Strýček Si, kterého jsme vítali v Praze, je doživotní diktátor, který se hlásí k odkazu myšlenek Mao Ce-tunga, jež ovšem chce a může dotáhnout do konce.
Marx se prostě mýlil, k první revoluci nedošlo ve vyspělých západních zemích, ale na Východě. A dnes mají čínští komunisté nejen k dispozici druhou největší ekonomiku světa, ale ještě nebezpečnějšího spojence. Moderní technologie.
Mao kdysi označil atomovou bombu (anglicky „A-bomb“) za papírového tygra, aby se pak stala jedním z pilířů moci. Podobnou chybu už Si Ťin-pching neudělal. Soudruzi brzy rozpoznali potenciál internetu a zcenzurovali ho. A také umělé inteligence (známé pod zkratkou AI z anglického „artificial intelligence“) a rozhodli se jí plně využít, nebo spíš zneužít jako svého nového tygra. Právě chytré algoritmy mají na svědomí rozpoznávání obličejů chodců přecházejících na červenou nebo právě systém sociálního kreditu. Jsou tak dosud nejnebezpečnějším nástrojem totalitní moci, který může Čína vyvážet klidně i k nám.
Největší problém je spolupráce tamních technologických firem, třeba retailového gigantu Alibaba, jehož zakladatel Jack Ma se nedávno vyznal jako oddaný člen komunistické strany. Zatím jsou státní i soukromé ratingy lidí dobrovolné. Ten vládní je podle dostupných zpráv spíše jakýmsi nezměnitelným záznamem, rejstříkem nesmazatelných hříchů a stane se povinným až po spuštění ostrého provozu v roce 2020. Jenže, takzvaný opt-in systém se snadno překonává, lidé se dobrovolně firmám upíší. Co by neudělali pro nějakou tu slevu. Navíc čínské firmy už dnes uzavírají smlouvy s městy nebo lokálními vládami a samozřejmě budou sdílet data a skóre zákazníků. Jejich expanze k nám tak nemusí být jen hrozba pro naši bezpečnost, ale především existenciální ohrožení našeho způsobu života a svobody.
Čínské firmy nemusejí být jen hrozba pro naši bezpečnost, ale přímo pro náš způsob života a svobodu
Velký bratr Kellner?
Nabízí se samozřejmě otázka, jak se k takovým ratingům stavějí firmy, které s Číňany aktivně spolupracují a napomáhají jejich expanzi na Západ i k nám. Pokud si chce tedy senátor Pavel Fischer pozvat miliardáře Petra Kellnera, měl by se jej ptát, jak se stalo, že jeho Home Credit už u nás dostal za obdobné nápady anticenu Velkého bratra. Což se jeho lidé snaží úzkostlivě tajit hlavně v Číně. A jak se k tomu postaví především jím majoritně vlastněný operátor O2 s miliony zákazníků, jenž pracuje třeba na systému prověřování úvěrové spolehlivosti na základě svých dat?
Evropská unie včetně naší komisařky Věry Jourové zdůrazňuje, že naší výhodou ve vývoji umělé inteligence jsou právě etické hodnoty, které musí dodržovat. Čínský příklad je jasnou ukázkou toho, že mají pravdu a že rozhodně nejde o žádné science-fiction, ale o možná až příliš blízkou realitu.