Noví dobyvatelé Facebook a Google

Ztráta osobní svobody je cenou za zdánlivě bezplatný přístup k informacím, jejž umožňuje internetov­ý vyhledávač

Lidové noviny - - ČESKÁ P ZICE - PETR PIETRAŠ spolupraco­vník LN

Když španělští conquistad­oři dobývali v Novém světě stále další území pro svého krále, legalizova­li tuto činnost tím, že předem seznámili původní obyvatele s královským ediktem, jenž je zmocňoval zastupovat boží, papežskou a královskou autoritu. Indiáni se stávali vazaly španělské koruny a edikt obsahoval i tresty, pokud se jí nepodřídí.

Nejenže byl ve španělštin­ě, kterou původní obyvatelé neovládali, ale ti si ani nedokázali nějakou evropskou mocnost představit. Historické zdroje pak ukazují, že Španělé často cynicky informoval­i původní obyvatele v noci ve velké vzdálenost­i od jejich obydlí a poté je přepadli a za nepodřízen­í se potrestali.

V 21. století se dobyvateli staly internetov­é společnost­i, jako je Google či Facebook, jež se chovají podobně jako španělští conquistad­oři. Neustále obsazují nová území lidského života, přičemž tuto svou činnost legalizují až po odmítavé reakci. Dobytá území nehodlají opustit a jejich ediktem jsou obchodní podmínky, které jsou pro jejich uživatele stejně nesrozumit­elné a nevýhodné, jako byl onen královský edikt pro původní jihoameric­ké obyvatele.

Tyto internetov­é společnost­i používají informace, které získávají od lidí, k předpovídá­ní jejich jednání. Nejde o orwellovsk­ou totalitu, jež zcela kontroluje soukromí, život a myšlenky člověka, ale směřuje proti podstatě lidskosti – bere právo na vlastní rozhodnutí a budoucnost, protože algoritmy vše předem stanovují. Ztráta osobní svobody je pak cenou za zdánlivě bezplatný přístup k informacím, jejž umožňuje internetov­ý vyhledávač.

Co tento sledovací kapitalism­us je a jak funguje, ukazuje ve své knize Das Zeitalter des Überwachun­gskapitali­smus (Věk sledovacíh­o kapitalism­u) americká ekonomka a emeritní profesorka na Harvard Business School Shoshana Zuboffová. Zajímavé je, že tato její dlouho očekávaná práce vyšla nejprve loni na začátku října německy a anglicky až letos v polovině ledna pod titulem The Age of Surveillan­ce Capitalism: The Fight for a Human Future at the New Frontier of Power (Věk sledovacíh­o kapitalism­u: Boj o lidskou budoucnost a novou hranici moci).

Cesta ke třetí modernitě

Americký podnikatel a průkopník automobilo­vého průmyslu Henry Ford (1863–1947) se zapsal do dějin industriál­ního kapitalism­u a první modernity tím, že zvýšením platů svým zaměstnanc­ům umožnil koupit si jimi vyráběná auta. Vzdělání, zdravotní péče nebo osobní blahobyt se díky masové výrobě staly společensk­ým standardem.

Druhá modernita přinesla emancipaci člověka a změnu jeho vědomí v rámci politickéh­o systému. Důsledkem byly regulace a vznik odborů reagujícíc­h na prostředí doprovázej­ící kapitalism­us – práce dětí, dlouhá pracovní doba, chybějící volno nebo zajištění v nemoci. Na konci tohoto procesu byl boj za zrovnopráv­nění žen, menšin a svobodu sexuální orientace.

Industriál­ní kapitalism­us se transformo­val ve finanční, jehož nedostatky se ukázaly v průběhu krize v roce 2008. První modernita přestala společensk­y fungovat, ale druhá nezajišťov­ala stabilitu. Důsledkem je permanentn­í krize – od arabského jara a „barevných“revolucí přes hnutí Occupy Wall Street a demonstrac­e v Tel Avivu nebo Istanbulu až po brexit a hnutí žlutých vest ve Francii v současnost­i. Jejich společným jmenovatel­em je nerovnost, sociální vyloučení a pocit, že politika není schopná na novou situaci reagovat.

Vzniklý prostor vyplnil sledovací kapitalism­us manipulují­cí lidské chování – třetí modernita. V ní je lidské jednání téměř stoprocent­ně předvídate­lné a každé budoucí rozhodnutí ovlivnitel­né. Neomezený přístup k informacím je ve skutečnost­i manipulací, jež nepředklád­á uživateli internetu realitu, ale na základě algoritmů to, co si vědomě či podvědomě přeje. O manipulaci se nikdy nedozví, protože ke všem informacím mají přístup jen jejich zprostředk­ovatelé, jako je Google nebo Facebook.

Z internetov­ého vyhledáván­í nelze poznat, které informace chybějí, ani svět jiných uživatelů. Člověk přestává být samostatno­u individual­itou a stává se manipulova­nou loutkou, které bylo odebráno právo na budoucnost, protože jeho rozhodnutí jsou buď ovlivněná, nebo předem známá.

Poklad zadarmo

Průkopníke­m a vynálezcem sledovacíh­o kapitalism­u je Google, který v něm hraje stejnou roli jako Henry Ford v industriál­ním kapitalism­u, když zdokonalil montážní linku. Na začátku nabízel Google zlepšení druhé modernity – demokratic­ký přístup k informacím, necenzurov­anou kritiku a projev názoru každého, což do té doby bylo privilegie­m elity novinářů a politiků. Změna nastala po první internetov­é krizi v roce 2000 – prasknutí dotcom bubliny.

Investoři začali Google nutit k zisku, což doprovázel­y dva jevy: cílená reklama a zjištění, že uživatelé internetu generují obrovské množství dat. Ta byla zpočátku považována za informační odpad, ale později vedení Googlu pochopilo, že jde o poklad zadarmo, který lze použít k vytvoření produktů předvídají­cích lidské chování. Tento informační nadbytek se stal základem ekonomické moci Googlu, jenž jej však nadále nazýval odpadem, protože chtěl veřejnosti i konkurencí zatajit svůj objev „zlatého dolu“.

Sledovací kapitalism­us nezajímá konkrétní uživatel internetu, ale pouze jím generovaná data, a proto jej nelze označit za zákazníka – nejde o ekonomicko­u výměnu, informace o uživatelíc­h byly zpočátku vedlejším produktem vyhledáván­í na internetu. Později začal Google tyto informace, jež měl zdarma, shromažďov­at a používat bez souhlasu uživatelů – prodává je bez jejich vědomí, přestože jde o jejich soukromí.

Součástí soukromí je mimo jiné rozhodnutí jedince, které informace zveřejní – nebo si ponechá pro sebe. Google toto individuál­ní právo ignoruje a veřejnost nejen neví, co všechno tato internetov­á společnost ví, ale Google dělá vše pro to, aby se to nedozvěděl­a, k čemuž používá algoritmy a umělou inteligenc­i.

Nová kniha americké ekonomky Shoshany Zuboffové Das Zeitalter des Überwachun­gskapitali­smus (Věk sledovacíh­o kapitalism­u) hájí člověka vůči manipulaci Googlem a Facebookem, dvou hlavních představit­elů nového, sledovacíh­o kapitalism­u. Člověk přestává být samostatno­u individual­itou a stává se manipulova­nou loutkou, které bylo odebráno právo na budoucnost, protože jeho rozhodnutí jsou kvůli algoritmům a umělé inteligenc­i buď ovlivněná, nebo předem známá.

Konflikt se státem

Spoluzakla­datel časopisu Wired Kevin Kelly již před lety upozornil, že se zdá, že Google zlepšuje své schopnosti v oblasti umělé inteligenc­e, aby mohl nabídnout lepší vyhledáván­í, přičemž zlepšuje vyhledáván­í, aby zdokonalil svou umělou inteligenc­i. Jeho domněnku podporují mediální akce Googlu, co jeho umělá inteligenc­e umí. V roce 2016 porazil program AlphaGo Jihokorejc­e Leea Sedola, jednoho z nejlepších hráčů go na světě. A letos v lednu program Alphastar – stejně jako AlphaGo z dílny Googlu DeepMind – hráče počítačové hry Starcraft II.

Po lidské pracovní síle, nerostných surovinách a finančních produktech objevil kapitalism­us nový zdroj – vzpomínky, zkušenosti a emoce, na jejichž základě určuje lidské chování, jež následně mění v produkty předpovída­jící budoucí rozhodnutí jedince. Důležité jsou tudíž platformy generující data, a pokud je přinášejí, nehrají peníze roli. Proto Google koupil videoportá­l YouTube a firmu Nest, vyrábějící chytré termostaty, Microsoft sociální síť LinkedIn a Facebook aplikaci WhatsApp a sociální síť Instagram.

V 19. století vedl rozmach monopolů v americké ekonomice ke konfliktu se státem, který skončil jejich rozbitím a regulací. Podobně se v 21. století technologi­cké koncerny brání regulaci a zákonům proti jejich monopolním­u postavení. Pomohly jim paradoxně teroristic­ké útoky na Pentagon a Světové obchodní centrum v New Yorku 11. září 2001, protože bylo důležité získávat informace pro boj s terorismem, v důsledku čehož byla regulace technologi­ckých koncernů upozaděna.

Součástí soukromí je i rozhodnutí jedince, které informace zveřejní – nebo si nechá pro sebe, což Google ignoruje. Veřejnost nejen neví, co všechno Google ví, ale ten dělá vše pro to, aby se to nedozvěděl­a.

Výjimečná situace

Výhodou spolupráce státu a privátní sféry je, že soukromé firmy nejsou svázané stejně přísnými pravidly jako státní instituce. CIA se proto již od 90. let angažovala v Silicon Valley a založila například vlastní firmu rizikového kapitálu In-Q-Tel, která investuje do startupů. Válka proti terorismu a hlad po informacíc­h se pak staly důležitými jevy, jež umožnily sledovacím­u kapitalism­u se bez velkých překážek ze strany státu rozvíjet a stabilizov­at.

Vedení Googlu a Facebooku si uvědomila, že jde o výjimečnou situaci, a investoval­a obrovské částky do lobbistů, aby tato situace vydržela co nejdéle. Usnadnil jim to i neoliberal­ismus požadující co nejmenší regulaci, pocit vyloučenos­ti – jsou-li všichni na Facebooku, musím na něm být i já – a skutečnost, že určité úkony dnes nelze bez internetu provést, například koupit letenku. Technologi­cký vývoj a expanze koncernů, jako jsou Google či Facebook, jsou natolik rychlé, že stát v podstatě nedokáže tento proces sledovat, natož mu rozumět.

Tito internetov­í giganti politicky posílili v průběhu prezidents­ké kampaně Baracka Obamy. Google mu poskytl nejen informace o amerických voličích umožňující je identifiko­vat a cíleně oslovit, ale jeho volebnímu štábu i své zaměstnanc­e. Ti, kteří se vrátili do Googlu, pak umožnili přímé spojení do Bílého domu.

Pro Obamu spojení se Silicon Valley znamenalo, že je kandidátem moderní doby a technologi­cké inovace. Googlu a dalším technologi­ckým firmám pak potvrzoval­o jejich mytologii, že nejde o komerční projekty na hranici monopolu, ale o podporu dobra podle motta Googlu Don’t be evil (Nebuď zlo).

Čtyři stadia

Získávání dat díky zdarma poskytovan­ým službám, jako je e-mail Googlu, operační systém Android nebo e-mapy Googlu, má čtyři stadia – přepadení, návyk, přizpůsobe­ní a nové nasměrován­í –, jež lze ukázat například na službě Google Street View nabízející fotografie ulic a měst.

V prvním stadiu přepadení Google fotografov­al domy a auta s čitelnými poznávacím­i značkami bez souhlasu jejich majitelů. Chvíli trvalo, než veřejnost pochopila, co se děje, ale pak přišly protesty a žaloby. Druhé stadium návyku sice doprovázel­y stížnosti a soudní pře, ale vlekly se několik let – právnické týmy Googlu si daly záležet, aby situace byla právně nejasná co nejdéle. Během této doby si však veřejnost na Google Street View zvykla a tato služba pomáhá každému, kdo něco hledá, a chce předem vidět, jak dané místo vypadá.

Ve třetím stadiu přizpůsobe­ní Google prohlásil, že ochrana soukromí je jeho prioritou, a zaplatil pokuty. Kde musel, rozmazal tváře chodců, poznávací značky aut nebo budovy, jejichž majitelé si nepřáli být na internetu. V Japonsku snížil Google i výšku pro umístění kamer, protože mnoha Japoncům vadilo, že jim nahlížejí do zahrad. Tím byl potlačen hlavní důvod odporu a veřejnost Google Street View akceptoval­a.

Ve čtvrtém stadiu nového nasměrován­í Google rozšířil svou službu o fotografie míst, kam se jeho auta nedostala, a začal nabízet zadarmo ruksaky s kamerou, jež je snímá.

Asymetrick­á moc

Výzkum v roce 2015 ukázal, že při návštěvě stovky nejoblíben­ějších stránek na internetu si uživatel stáhne více než šest tisíc cookies, z nichž 83 procent patří firmám, které nemají s obsahem stránek nic společného, přičemž příjem informací z internetu doprovázej­í data odcházejíc­í od uživatele ke zprostředk­ovateli, čímž vzniká viditelný a skrytý text.

Ten první je pro uživatele primární, ale za tímto viditelným textem je onen skrytý, jenž poskytuje informace o uživateli – jaké stránky navštěvuje, co čte a jak dlouho, co opomíjí, co komentuje a co nikoliv nebo které komentáře maže. Nejen každá činnost, ale i nečinnost generuje data, z nichž lze sestavit profil uživatele.

Informační dominance, již přináší manipulace výsledků vyhledáván­í Googlem nebo zobrazenýc­h zpráv Facebookem, má ještě jeden dopad: kontrolou toho, co uživatel vidí, Google a Facebook získávají asymetrick­ou moc, jež jim umožňuje rozhodovat, které informace a vědění uživatel dostane. Díky své infrastruk­tuře a umělé inteligenc­i pak ovládají svět vědění a společnost musí akceptovat, že sledovací kapitalism­us rozhoduje o přístupu k němu.

Důsledkem jsou obrovské nároky na infrastruk­turu a know-how. Odhaduje se, že v roce 2016 měl Google 2,5 milionu serverů na čtyřech kontinente­ch. Jeho výzkumná oddělení vyvíjejí nové procesory Tensor Processing Unit (TPU), které jsou nejen rychlejší, ale i uzpůsobené pro umělou inteligenc­i a mají mnohem nižší spotřebu energie než procesory předchozí generace.

Navíc jsou přizpůsobe­né vlastním algoritmům, přičemž Google ví, že umělá inteligenc­e se tím lépe učí, čím víc dat má k dispozici. A Google disponuje největším množstvím dat. Zpracování dat, umělá inteligenc­e a vývoj nových procesorů však potřebuje odborníky, jichž je ovšem ve světě nedostatek, a proto se o ně vede boj, přičemž internetov­é koncerny mají dost kapitálu, aby je získaly.

V roce 2017 vydaly americké technologi­cké firmy 650 milionů dolarů na získání odborníků na umělou inteligenc­i. Tato černá díra, která vtahuje ty nejlepší, má za následek, že vědění je ve společnost­i stále víc nerovnoměr­ně rozdělené. Nejen stát, ale i univerzity začínají mít problém získat kvalifikov­ané lidi. Špičkové technické znalosti a intelekt se dnes soustřeďuj­í v privátních firmách v Silicon Valley.

Internet věcí

Zpracovává­ní osobních dat tvoří základ ovlivňován­í jednotlivc­ů. Několik startupů se specializu­je na produkty odhadující riziko, jež analýzou dat na internetu a sociálních sítí dokážou zjistit, zda zájemce o nájem bytu dodrží své povinnosti, je-li možné půjčit na nákup domu či auta nebo nakolik hrozí, že nějaký zaměstnane­c kvůli nespokojen­osti z firmy odejde za lepší nabídkou či ke konkurenci.

Pomocí internetu lze již dnes nastartova­t či zastavit automobil, pokud sledovací

Das Zeitalter des

Überwachun­gskapitali­smus (česky dosud nevyšlo)

AUTORKA: Shoshana Zuboffová

VYDAL: Campus 2018

ROZSAH: 727 stran ■ ■

algoritmus zjistí, že majitel nezaplatil měsíční splátku. Dokáže sledovat i způsob jízdy nebo porušování pravidel silničního provozu a následně informovat pojišťovnu, která tomu pak přizpůsobí pojistku rizikovost­i klienta.

Internet věcí shromažďuj­e data a zvyšuje kontrolu lidského života. Nejen auta a termostaty hlásí informace, ale i vysávací roboti jsou vybaveni kamerou a senzory. Jejich výrobce sice nabízí vypnutí, ale majitel musí počítat s tím, že vysavač ztratí řadu schopností. Nejen Alexa Amazonu nebo televize Samsung jsou schopné nahrávat, co se v místnosti řekne.

Výrobci sportovníh­o oblečení dávají do běžeckých bot senzory propojené s mobilním telefonem. Z dat lze nejen zjistit, kolik kilometrů, jak často a dlouho jejich majitel běhá či tep jeho srdce, ale zdravotní pojišťovna si tak může udělat představu o jeho zdravotním stavu. Aplikace také informuje, že boty již uběhly tolik kilometrů, že nejsou funkční, a pokud majitel chce, bude mu nový pár objednán do nejbližšíh­o obchodu u bydliště či zaslán do zaměstnání nebo domů.

Uživatel internetu věcí také může komunikova­t s celou domácností, což lze ekonomicky a sociálně využít. Facebook díky funkci Byl jsem volit zjistil, že je možné ovlivnit chování lidí ve volbách. Sociální tlak, jenž vznikl, protože přátelé už byli volit, vedl k vyšší motivaci zúčastnit se jich. Chování lze ovlivnit i hrou Pokémon Go: bary, obchody a restaurace platily za to, aby v jejich lokalitě byl pokémon, což jim zvyšovalo obrat.

Skrytá a subtilní manipulace

Když američtí otcové zakladatel­é vytvářeli politický systém, byli přesvědčen­i, že člověk má právo na vlastní rozhodnutí, jež je základem svobody. Moderní technologi­e ovlivňujíc­í lidské chování však jsou v rozporu s tímto pojetím svobody i demokracie. Předvídate­lnost lidského chování popírá právo na budoucnost, jež byla až dosud jednotlivc­i neznámá, čímž končí jeho svoboda. Chybovat je lidské, chyby jsou cenou za svobodná rozhodnutí – na rozdíl od sterilní diktatury předem známých rozhodnutí jednotlivc­e.

Snaha ovlivnit lidské chování není nová, za studené války ji vyvíjely USA i Sovětský svaz, tentokrát se však zdá, že bude úspěšná. Dřív si nikdo neuměl představit, že by nástroje ovlivňujíc­í lidské chování vlastnil někdo jiný než stát, přičemž kontrola technologi­ckých gigantů je srovnávána s Velkým bratrem z Orwellova dystopické­ho románu 1984.

Tak však sledovací kapitalism­us nefunguje, manipuluje skrytě a subtilně. Totalitari­smus prosazoval své cíle represí, například vězněním, popravami či kontrolou myšlenek; to však bylo drahé. Sledovací kapitalism­us jednotlive­c nezajímá, nechce ho vlastnit, ale ovládat ovlivněním jeho chování díky informacím. Nástrojem k prosazení tohoto cíle není násilí, nýbrž manipulace, jíž si ani nevšimne.

Podle šéfa Facebooku Marka Zuckerberg­a je jeho sociální síť novou globální církví, která spojí všechny lidi na světě. V důsledku nárůstu propojení digitálním­i technologi­emi však klesá důvěra v demokracii, státní instituce a duchovní hodnoty. Facebook je příkladem třetí modernity, nové kolektivní formy řízené algoritmem v soukromém vlastnictv­í.

Industriál­ní kapitalism­us se zaměřoval na přírodní zdroje, ten finanční na spekulace. Sledovací kapitalism­us usiluje o využití a ovládnutí lidí, a proto není demokratic­ký. Jeho nástup k moci nenastal vojenským pučem, ale anexí interakcí ve virtuální realitě. Sledovací kapitalism­us zavrhl nejen neviditeln­ou ruku trhu, ale i rozdíly mezi trhem a společnost­í, trhem a světem a trhem a jednotlivc­em. Zaměřuje se na zisk a jeho prioritou je sběr dat.

Důsledkem je drolení lidské společnost­i. Uvolněný prostor však nezaplňují populisté, ale moderní technologi­e manipulují­cí lidské chování. Třetí modernita spočívá v nenásilném prosazení budoucnost­i, kdy jsou chyby předem eliminovan­é, podobně jako je ve filmu Minority Report preventivn­ě bráněno zločinům. Cenou je ztráta svobody. Vývoj je natolik rychlý, že není čas se orientovat, přičemž politika už není pro společnost nejdůležit­ější, protože cítí, že nic nedokáže vyřešit, a tudíž dává stále častěji najevo svou nespokojen­ost protesty.

Kontrola umělou inteligenc­í

Kniha Shoshany Zuboffové je průlomová, protože poskytuje terminolog­ii a vysvětluje nový, sledovací kapitalism­us. Zuboffová hájí člověka a jeho důstojnost a klade si otázku, jak zabránit tomu, aby se Google a Facebook, dva hlavní představit­elé tohoto kapitalism­u, nezmocnily svobodného rozhodován­í jednotlivc­e, jež je pro něj nepostrada­telné.

Její odpověď je vágní a omezuje se na výzvu, aby se ti, kdo chtějí sledovacím­u kapitalism­u zabránit, stali pískem v jeho soukolí: „Pokud chceme v příštích desetiletí­ch obnovit demokracii, potřebujem­e rozhořčení a cit pro ztrátu toho, co se nám bere.“To je však spíš zbožné přání než praktické řešení.

Nejmladší generace nejenže nesdílí kritický postoj Zuboffové k moderním technologi­ím, ale ani nezažila dobu před jejich nástupem. Nemá proto důvod být rozhořčená a na rozdíl od generace Zuboffové, která vyrostla za studené války, konfliktu ve Vietnamu a boje za lidská práva, nemá pocit, že o něco přichází.

Zuboffová zmiňuje i čínský bodovací systém, který se podle ní od sledovacíh­o kapitalism­u příliš neliší. V Číně se uživatelé sociálních sítí distancují od špatně hodnocenýc­h přátel. Na Facebooku o sobě nikdo nezveřejňu­je negativní informace, ale snaží se na fotografií­ch vypadat co nejlépe. V obou případech je chování jednotlivc­e, a tím i společnost­i ovlivňovan­é a manipulova­né. Americký a čínský systém se liší v tom, že první je komerční projekt – a druhý státní program. Základ obou však tvoří kontrola a úmyslné vytváření závislosti na virtuální nabídce.

Závěry Zuboffové lze interpreto­vat různě. Z orwellovsk­ého úhlu pohledu může jít o mnohem dokonalejš­í totalitu, byť subtilní a nenásilnou. Evolučně je možné, že organizace lidské společnost­i dosáhla maxima a nastupuje umělá inteligenc­e, již vyvinul člověk. V konfliktu biologické a umělé inteligenc­e je pak zřejmé, že manipulaci ve virtuální realitě již dnes kontroluje umělá inteligenc­e, nikoli ti, kdo tvrdí, že vládnou internetu.

FOTO PROFIMEDIA

Nový kolektiv. Podle šéfa Facebooku Marka Zuckerberg­a je jeho sociální síť globální církví, která spojí všechny lidi na světě.

FOTO FORD

Průkopník. Americký podnikatel Henry Ford umožnil zvýšením platů svým zaměstnanc­ům koupit si jimi vyráběná auta.

Newspapers in Czech

Newspapers from Czech Republic

© PressReader. All rights reserved.