Noví dobyvatelé Facebook a Google
Ztráta osobní svobody je cenou za zdánlivě bezplatný přístup k informacím, jejž umožňuje internetový vyhledávač
Když španělští conquistadoři dobývali v Novém světě stále další území pro svého krále, legalizovali tuto činnost tím, že předem seznámili původní obyvatele s královským ediktem, jenž je zmocňoval zastupovat boží, papežskou a královskou autoritu. Indiáni se stávali vazaly španělské koruny a edikt obsahoval i tresty, pokud se jí nepodřídí.
Nejenže byl ve španělštině, kterou původní obyvatelé neovládali, ale ti si ani nedokázali nějakou evropskou mocnost představit. Historické zdroje pak ukazují, že Španělé často cynicky informovali původní obyvatele v noci ve velké vzdálenosti od jejich obydlí a poté je přepadli a za nepodřízení se potrestali.
V 21. století se dobyvateli staly internetové společnosti, jako je Google či Facebook, jež se chovají podobně jako španělští conquistadoři. Neustále obsazují nová území lidského života, přičemž tuto svou činnost legalizují až po odmítavé reakci. Dobytá území nehodlají opustit a jejich ediktem jsou obchodní podmínky, které jsou pro jejich uživatele stejně nesrozumitelné a nevýhodné, jako byl onen královský edikt pro původní jihoamerické obyvatele.
Tyto internetové společnosti používají informace, které získávají od lidí, k předpovídání jejich jednání. Nejde o orwellovskou totalitu, jež zcela kontroluje soukromí, život a myšlenky člověka, ale směřuje proti podstatě lidskosti – bere právo na vlastní rozhodnutí a budoucnost, protože algoritmy vše předem stanovují. Ztráta osobní svobody je pak cenou za zdánlivě bezplatný přístup k informacím, jejž umožňuje internetový vyhledávač.
Co tento sledovací kapitalismus je a jak funguje, ukazuje ve své knize Das Zeitalter des Überwachungskapitalismus (Věk sledovacího kapitalismu) americká ekonomka a emeritní profesorka na Harvard Business School Shoshana Zuboffová. Zajímavé je, že tato její dlouho očekávaná práce vyšla nejprve loni na začátku října německy a anglicky až letos v polovině ledna pod titulem The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power (Věk sledovacího kapitalismu: Boj o lidskou budoucnost a novou hranici moci).
Cesta ke třetí modernitě
Americký podnikatel a průkopník automobilového průmyslu Henry Ford (1863–1947) se zapsal do dějin industriálního kapitalismu a první modernity tím, že zvýšením platů svým zaměstnancům umožnil koupit si jimi vyráběná auta. Vzdělání, zdravotní péče nebo osobní blahobyt se díky masové výrobě staly společenským standardem.
Druhá modernita přinesla emancipaci člověka a změnu jeho vědomí v rámci politického systému. Důsledkem byly regulace a vznik odborů reagujících na prostředí doprovázející kapitalismus – práce dětí, dlouhá pracovní doba, chybějící volno nebo zajištění v nemoci. Na konci tohoto procesu byl boj za zrovnoprávnění žen, menšin a svobodu sexuální orientace.
Industriální kapitalismus se transformoval ve finanční, jehož nedostatky se ukázaly v průběhu krize v roce 2008. První modernita přestala společensky fungovat, ale druhá nezajišťovala stabilitu. Důsledkem je permanentní krize – od arabského jara a „barevných“revolucí přes hnutí Occupy Wall Street a demonstrace v Tel Avivu nebo Istanbulu až po brexit a hnutí žlutých vest ve Francii v současnosti. Jejich společným jmenovatelem je nerovnost, sociální vyloučení a pocit, že politika není schopná na novou situaci reagovat.
Vzniklý prostor vyplnil sledovací kapitalismus manipulující lidské chování – třetí modernita. V ní je lidské jednání téměř stoprocentně předvídatelné a každé budoucí rozhodnutí ovlivnitelné. Neomezený přístup k informacím je ve skutečnosti manipulací, jež nepředkládá uživateli internetu realitu, ale na základě algoritmů to, co si vědomě či podvědomě přeje. O manipulaci se nikdy nedozví, protože ke všem informacím mají přístup jen jejich zprostředkovatelé, jako je Google nebo Facebook.
Z internetového vyhledávání nelze poznat, které informace chybějí, ani svět jiných uživatelů. Člověk přestává být samostatnou individualitou a stává se manipulovanou loutkou, které bylo odebráno právo na budoucnost, protože jeho rozhodnutí jsou buď ovlivněná, nebo předem známá.
Poklad zadarmo
Průkopníkem a vynálezcem sledovacího kapitalismu je Google, který v něm hraje stejnou roli jako Henry Ford v industriálním kapitalismu, když zdokonalil montážní linku. Na začátku nabízel Google zlepšení druhé modernity – demokratický přístup k informacím, necenzurovanou kritiku a projev názoru každého, což do té doby bylo privilegiem elity novinářů a politiků. Změna nastala po první internetové krizi v roce 2000 – prasknutí dotcom bubliny.
Investoři začali Google nutit k zisku, což doprovázely dva jevy: cílená reklama a zjištění, že uživatelé internetu generují obrovské množství dat. Ta byla zpočátku považována za informační odpad, ale později vedení Googlu pochopilo, že jde o poklad zadarmo, který lze použít k vytvoření produktů předvídajících lidské chování. Tento informační nadbytek se stal základem ekonomické moci Googlu, jenž jej však nadále nazýval odpadem, protože chtěl veřejnosti i konkurencí zatajit svůj objev „zlatého dolu“.
Sledovací kapitalismus nezajímá konkrétní uživatel internetu, ale pouze jím generovaná data, a proto jej nelze označit za zákazníka – nejde o ekonomickou výměnu, informace o uživatelích byly zpočátku vedlejším produktem vyhledávání na internetu. Později začal Google tyto informace, jež měl zdarma, shromažďovat a používat bez souhlasu uživatelů – prodává je bez jejich vědomí, přestože jde o jejich soukromí.
Součástí soukromí je mimo jiné rozhodnutí jedince, které informace zveřejní – nebo si ponechá pro sebe. Google toto individuální právo ignoruje a veřejnost nejen neví, co všechno tato internetová společnost ví, ale Google dělá vše pro to, aby se to nedozvěděla, k čemuž používá algoritmy a umělou inteligenci.
Nová kniha americké ekonomky Shoshany Zuboffové Das Zeitalter des Überwachungskapitalismus (Věk sledovacího kapitalismu) hájí člověka vůči manipulaci Googlem a Facebookem, dvou hlavních představitelů nového, sledovacího kapitalismu. Člověk přestává být samostatnou individualitou a stává se manipulovanou loutkou, které bylo odebráno právo na budoucnost, protože jeho rozhodnutí jsou kvůli algoritmům a umělé inteligenci buď ovlivněná, nebo předem známá.
Konflikt se státem
Spoluzakladatel časopisu Wired Kevin Kelly již před lety upozornil, že se zdá, že Google zlepšuje své schopnosti v oblasti umělé inteligence, aby mohl nabídnout lepší vyhledávání, přičemž zlepšuje vyhledávání, aby zdokonalil svou umělou inteligenci. Jeho domněnku podporují mediální akce Googlu, co jeho umělá inteligence umí. V roce 2016 porazil program AlphaGo Jihokorejce Leea Sedola, jednoho z nejlepších hráčů go na světě. A letos v lednu program Alphastar – stejně jako AlphaGo z dílny Googlu DeepMind – hráče počítačové hry Starcraft II.
Po lidské pracovní síle, nerostných surovinách a finančních produktech objevil kapitalismus nový zdroj – vzpomínky, zkušenosti a emoce, na jejichž základě určuje lidské chování, jež následně mění v produkty předpovídající budoucí rozhodnutí jedince. Důležité jsou tudíž platformy generující data, a pokud je přinášejí, nehrají peníze roli. Proto Google koupil videoportál YouTube a firmu Nest, vyrábějící chytré termostaty, Microsoft sociální síť LinkedIn a Facebook aplikaci WhatsApp a sociální síť Instagram.
V 19. století vedl rozmach monopolů v americké ekonomice ke konfliktu se státem, který skončil jejich rozbitím a regulací. Podobně se v 21. století technologické koncerny brání regulaci a zákonům proti jejich monopolnímu postavení. Pomohly jim paradoxně teroristické útoky na Pentagon a Světové obchodní centrum v New Yorku 11. září 2001, protože bylo důležité získávat informace pro boj s terorismem, v důsledku čehož byla regulace technologických koncernů upozaděna.
Součástí soukromí je i rozhodnutí jedince, které informace zveřejní – nebo si nechá pro sebe, což Google ignoruje. Veřejnost nejen neví, co všechno Google ví, ale ten dělá vše pro to, aby se to nedozvěděla.
Výjimečná situace
Výhodou spolupráce státu a privátní sféry je, že soukromé firmy nejsou svázané stejně přísnými pravidly jako státní instituce. CIA se proto již od 90. let angažovala v Silicon Valley a založila například vlastní firmu rizikového kapitálu In-Q-Tel, která investuje do startupů. Válka proti terorismu a hlad po informacích se pak staly důležitými jevy, jež umožnily sledovacímu kapitalismu se bez velkých překážek ze strany státu rozvíjet a stabilizovat.
Vedení Googlu a Facebooku si uvědomila, že jde o výjimečnou situaci, a investovala obrovské částky do lobbistů, aby tato situace vydržela co nejdéle. Usnadnil jim to i neoliberalismus požadující co nejmenší regulaci, pocit vyloučenosti – jsou-li všichni na Facebooku, musím na něm být i já – a skutečnost, že určité úkony dnes nelze bez internetu provést, například koupit letenku. Technologický vývoj a expanze koncernů, jako jsou Google či Facebook, jsou natolik rychlé, že stát v podstatě nedokáže tento proces sledovat, natož mu rozumět.
Tito internetoví giganti politicky posílili v průběhu prezidentské kampaně Baracka Obamy. Google mu poskytl nejen informace o amerických voličích umožňující je identifikovat a cíleně oslovit, ale jeho volebnímu štábu i své zaměstnance. Ti, kteří se vrátili do Googlu, pak umožnili přímé spojení do Bílého domu.
Pro Obamu spojení se Silicon Valley znamenalo, že je kandidátem moderní doby a technologické inovace. Googlu a dalším technologickým firmám pak potvrzovalo jejich mytologii, že nejde o komerční projekty na hranici monopolu, ale o podporu dobra podle motta Googlu Don’t be evil (Nebuď zlo).
Čtyři stadia
Získávání dat díky zdarma poskytovaným službám, jako je e-mail Googlu, operační systém Android nebo e-mapy Googlu, má čtyři stadia – přepadení, návyk, přizpůsobení a nové nasměrování –, jež lze ukázat například na službě Google Street View nabízející fotografie ulic a měst.
V prvním stadiu přepadení Google fotografoval domy a auta s čitelnými poznávacími značkami bez souhlasu jejich majitelů. Chvíli trvalo, než veřejnost pochopila, co se děje, ale pak přišly protesty a žaloby. Druhé stadium návyku sice doprovázely stížnosti a soudní pře, ale vlekly se několik let – právnické týmy Googlu si daly záležet, aby situace byla právně nejasná co nejdéle. Během této doby si však veřejnost na Google Street View zvykla a tato služba pomáhá každému, kdo něco hledá, a chce předem vidět, jak dané místo vypadá.
Ve třetím stadiu přizpůsobení Google prohlásil, že ochrana soukromí je jeho prioritou, a zaplatil pokuty. Kde musel, rozmazal tváře chodců, poznávací značky aut nebo budovy, jejichž majitelé si nepřáli být na internetu. V Japonsku snížil Google i výšku pro umístění kamer, protože mnoha Japoncům vadilo, že jim nahlížejí do zahrad. Tím byl potlačen hlavní důvod odporu a veřejnost Google Street View akceptovala.
Ve čtvrtém stadiu nového nasměrování Google rozšířil svou službu o fotografie míst, kam se jeho auta nedostala, a začal nabízet zadarmo ruksaky s kamerou, jež je snímá.
Asymetrická moc
Výzkum v roce 2015 ukázal, že při návštěvě stovky nejoblíbenějších stránek na internetu si uživatel stáhne více než šest tisíc cookies, z nichž 83 procent patří firmám, které nemají s obsahem stránek nic společného, přičemž příjem informací z internetu doprovázejí data odcházející od uživatele ke zprostředkovateli, čímž vzniká viditelný a skrytý text.
Ten první je pro uživatele primární, ale za tímto viditelným textem je onen skrytý, jenž poskytuje informace o uživateli – jaké stránky navštěvuje, co čte a jak dlouho, co opomíjí, co komentuje a co nikoliv nebo které komentáře maže. Nejen každá činnost, ale i nečinnost generuje data, z nichž lze sestavit profil uživatele.
Informační dominance, již přináší manipulace výsledků vyhledávání Googlem nebo zobrazených zpráv Facebookem, má ještě jeden dopad: kontrolou toho, co uživatel vidí, Google a Facebook získávají asymetrickou moc, jež jim umožňuje rozhodovat, které informace a vědění uživatel dostane. Díky své infrastruktuře a umělé inteligenci pak ovládají svět vědění a společnost musí akceptovat, že sledovací kapitalismus rozhoduje o přístupu k němu.
Důsledkem jsou obrovské nároky na infrastrukturu a know-how. Odhaduje se, že v roce 2016 měl Google 2,5 milionu serverů na čtyřech kontinentech. Jeho výzkumná oddělení vyvíjejí nové procesory Tensor Processing Unit (TPU), které jsou nejen rychlejší, ale i uzpůsobené pro umělou inteligenci a mají mnohem nižší spotřebu energie než procesory předchozí generace.
Navíc jsou přizpůsobené vlastním algoritmům, přičemž Google ví, že umělá inteligence se tím lépe učí, čím víc dat má k dispozici. A Google disponuje největším množstvím dat. Zpracování dat, umělá inteligence a vývoj nových procesorů však potřebuje odborníky, jichž je ovšem ve světě nedostatek, a proto se o ně vede boj, přičemž internetové koncerny mají dost kapitálu, aby je získaly.
V roce 2017 vydaly americké technologické firmy 650 milionů dolarů na získání odborníků na umělou inteligenci. Tato černá díra, která vtahuje ty nejlepší, má za následek, že vědění je ve společnosti stále víc nerovnoměrně rozdělené. Nejen stát, ale i univerzity začínají mít problém získat kvalifikované lidi. Špičkové technické znalosti a intelekt se dnes soustřeďují v privátních firmách v Silicon Valley.
Internet věcí
Zpracovávání osobních dat tvoří základ ovlivňování jednotlivců. Několik startupů se specializuje na produkty odhadující riziko, jež analýzou dat na internetu a sociálních sítí dokážou zjistit, zda zájemce o nájem bytu dodrží své povinnosti, je-li možné půjčit na nákup domu či auta nebo nakolik hrozí, že nějaký zaměstnanec kvůli nespokojenosti z firmy odejde za lepší nabídkou či ke konkurenci.
Pomocí internetu lze již dnes nastartovat či zastavit automobil, pokud sledovací
Das Zeitalter des
■
Überwachungskapitalismus (česky dosud nevyšlo)
AUTORKA: Shoshana Zuboffová
■
VYDAL: Campus 2018
ROZSAH: 727 stran ■ ■
algoritmus zjistí, že majitel nezaplatil měsíční splátku. Dokáže sledovat i způsob jízdy nebo porušování pravidel silničního provozu a následně informovat pojišťovnu, která tomu pak přizpůsobí pojistku rizikovosti klienta.
Internet věcí shromažďuje data a zvyšuje kontrolu lidského života. Nejen auta a termostaty hlásí informace, ale i vysávací roboti jsou vybaveni kamerou a senzory. Jejich výrobce sice nabízí vypnutí, ale majitel musí počítat s tím, že vysavač ztratí řadu schopností. Nejen Alexa Amazonu nebo televize Samsung jsou schopné nahrávat, co se v místnosti řekne.
Výrobci sportovního oblečení dávají do běžeckých bot senzory propojené s mobilním telefonem. Z dat lze nejen zjistit, kolik kilometrů, jak často a dlouho jejich majitel běhá či tep jeho srdce, ale zdravotní pojišťovna si tak může udělat představu o jeho zdravotním stavu. Aplikace také informuje, že boty již uběhly tolik kilometrů, že nejsou funkční, a pokud majitel chce, bude mu nový pár objednán do nejbližšího obchodu u bydliště či zaslán do zaměstnání nebo domů.
Uživatel internetu věcí také může komunikovat s celou domácností, což lze ekonomicky a sociálně využít. Facebook díky funkci Byl jsem volit zjistil, že je možné ovlivnit chování lidí ve volbách. Sociální tlak, jenž vznikl, protože přátelé už byli volit, vedl k vyšší motivaci zúčastnit se jich. Chování lze ovlivnit i hrou Pokémon Go: bary, obchody a restaurace platily za to, aby v jejich lokalitě byl pokémon, což jim zvyšovalo obrat.
Skrytá a subtilní manipulace
Když američtí otcové zakladatelé vytvářeli politický systém, byli přesvědčeni, že člověk má právo na vlastní rozhodnutí, jež je základem svobody. Moderní technologie ovlivňující lidské chování však jsou v rozporu s tímto pojetím svobody i demokracie. Předvídatelnost lidského chování popírá právo na budoucnost, jež byla až dosud jednotlivci neznámá, čímž končí jeho svoboda. Chybovat je lidské, chyby jsou cenou za svobodná rozhodnutí – na rozdíl od sterilní diktatury předem známých rozhodnutí jednotlivce.
Snaha ovlivnit lidské chování není nová, za studené války ji vyvíjely USA i Sovětský svaz, tentokrát se však zdá, že bude úspěšná. Dřív si nikdo neuměl představit, že by nástroje ovlivňující lidské chování vlastnil někdo jiný než stát, přičemž kontrola technologických gigantů je srovnávána s Velkým bratrem z Orwellova dystopického románu 1984.
Tak však sledovací kapitalismus nefunguje, manipuluje skrytě a subtilně. Totalitarismus prosazoval své cíle represí, například vězněním, popravami či kontrolou myšlenek; to však bylo drahé. Sledovací kapitalismus jednotlivec nezajímá, nechce ho vlastnit, ale ovládat ovlivněním jeho chování díky informacím. Nástrojem k prosazení tohoto cíle není násilí, nýbrž manipulace, jíž si ani nevšimne.
Podle šéfa Facebooku Marka Zuckerberga je jeho sociální síť novou globální církví, která spojí všechny lidi na světě. V důsledku nárůstu propojení digitálními technologiemi však klesá důvěra v demokracii, státní instituce a duchovní hodnoty. Facebook je příkladem třetí modernity, nové kolektivní formy řízené algoritmem v soukromém vlastnictví.
Industriální kapitalismus se zaměřoval na přírodní zdroje, ten finanční na spekulace. Sledovací kapitalismus usiluje o využití a ovládnutí lidí, a proto není demokratický. Jeho nástup k moci nenastal vojenským pučem, ale anexí interakcí ve virtuální realitě. Sledovací kapitalismus zavrhl nejen neviditelnou ruku trhu, ale i rozdíly mezi trhem a společností, trhem a světem a trhem a jednotlivcem. Zaměřuje se na zisk a jeho prioritou je sběr dat.
Důsledkem je drolení lidské společnosti. Uvolněný prostor však nezaplňují populisté, ale moderní technologie manipulující lidské chování. Třetí modernita spočívá v nenásilném prosazení budoucnosti, kdy jsou chyby předem eliminované, podobně jako je ve filmu Minority Report preventivně bráněno zločinům. Cenou je ztráta svobody. Vývoj je natolik rychlý, že není čas se orientovat, přičemž politika už není pro společnost nejdůležitější, protože cítí, že nic nedokáže vyřešit, a tudíž dává stále častěji najevo svou nespokojenost protesty.
Kontrola umělou inteligencí
Kniha Shoshany Zuboffové je průlomová, protože poskytuje terminologii a vysvětluje nový, sledovací kapitalismus. Zuboffová hájí člověka a jeho důstojnost a klade si otázku, jak zabránit tomu, aby se Google a Facebook, dva hlavní představitelé tohoto kapitalismu, nezmocnily svobodného rozhodování jednotlivce, jež je pro něj nepostradatelné.
Její odpověď je vágní a omezuje se na výzvu, aby se ti, kdo chtějí sledovacímu kapitalismu zabránit, stali pískem v jeho soukolí: „Pokud chceme v příštích desetiletích obnovit demokracii, potřebujeme rozhořčení a cit pro ztrátu toho, co se nám bere.“To je však spíš zbožné přání než praktické řešení.
Nejmladší generace nejenže nesdílí kritický postoj Zuboffové k moderním technologiím, ale ani nezažila dobu před jejich nástupem. Nemá proto důvod být rozhořčená a na rozdíl od generace Zuboffové, která vyrostla za studené války, konfliktu ve Vietnamu a boje za lidská práva, nemá pocit, že o něco přichází.
Zuboffová zmiňuje i čínský bodovací systém, který se podle ní od sledovacího kapitalismu příliš neliší. V Číně se uživatelé sociálních sítí distancují od špatně hodnocených přátel. Na Facebooku o sobě nikdo nezveřejňuje negativní informace, ale snaží se na fotografiích vypadat co nejlépe. V obou případech je chování jednotlivce, a tím i společnosti ovlivňované a manipulované. Americký a čínský systém se liší v tom, že první je komerční projekt – a druhý státní program. Základ obou však tvoří kontrola a úmyslné vytváření závislosti na virtuální nabídce.
Závěry Zuboffové lze interpretovat různě. Z orwellovského úhlu pohledu může jít o mnohem dokonalejší totalitu, byť subtilní a nenásilnou. Evolučně je možné, že organizace lidské společnosti dosáhla maxima a nastupuje umělá inteligence, již vyvinul člověk. V konfliktu biologické a umělé inteligence je pak zřejmé, že manipulaci ve virtuální realitě již dnes kontroluje umělá inteligence, nikoli ti, kdo tvrdí, že vládnou internetu.