Facebook i Google zagrażają demokracji

Autorka „Wieku kapitalizmu inwigilacji” – jednej z najgłośniejszych książek ostatnich lat – w specjalnej rozmowie z „Super Expressem”

„Super Express”: – Pani książka „Wiek kapitalizmu inwigilacji”, poświęcona praktykom gigantów informatycznych, zmieniła sposób, w jaki o nich myślimy. Czym jest ten kapitalizm inwigilacji – termin, który pani ukuła? Prof. Shoshana Zuboff: – Aby zrozumieć, co mam na myśli przez kapitalizm inwigilacji, warto przyjrzeć się składającym się na niego pojęciom. Kapitalizm wiąże się z własnością prywatną, która jest przedmiotem wymiany rynkowej, czyli może być kupowana i sprzedawana. Efektem tej wymiany jest zysk, a zysk wykorzystywany jest do wzrostu. Bez tych elementów kapitalizm nie istnieje. Inwigilacja to z kolei prowadzona w tajemnicy obserwacja i zbieranie informacji.

– Kapitalizm inwigilacji to wypracowywanie zysku dzięki szpiegowaniu ludzi?

– Jeśli połączymy te dwa pojęcia, otrzymujemy system, w którym zysk wypracowywany jest dzięki ukrytym mechanizmom monitorowania i przechwytywania informacji na temat prywatnego ludzkiego doświadczenia. To ludzkie doświadczenie traktowane jest tu jako darmowy surowiec, który przez informatycznych gigantów zamieniany następnie zostaje w dane behawioralne, a one natychmiast uznawane są za prywatną własność tych firm, która jest przedmiotem wymiany rynkowej. Korzystając z Google’a czy Facebooka, zostawiamy tysiące śladów, które poddawane są analizie i wykorzystywane, by nami manipulować. Przy czym nie interesuje ich nawet to, co piszemy, ale czy używamy wykrzyknika. Interesuje ich nie tyle to, co mówimy, co intonacja i ton naszego głosu. Takie rzeczy ujawniają bowiem nasze emocje, osobowość. To coś, za czym się uganiają, ponieważ to silne sygnały, na podstawie których można przewidzieć nasze zachowania. Treść naszych wypowiedzi to tylko promil naszych zachowań, które poddawane są analizie. Najgorsze jest to, że nawet nie zdajemy sobie sprawy z tego, co im dajemy.

– Pokazując różnicę między znanym nam wszystkim kapitalizmem przemysłowym a kapitalizmem inwigilacji, zwraca pani uwagę, że ten pierwszy przekształcał surowce naturalne w towary. Natomiast kapitalizm inwigilacyjny rości sobie prawa do przekształcenia ludzkiej natury w towar. Brzmi to dość złowieszczo.

– Bo jest to dość przerażające, jeśli się nad tym zastanowić. W kapitalizmie inwigilacji nie jesteśmy klientami czy użytkownikami. Jesteśmy traktowani jako źródło surowca, który po przetworzeniu jest sprzedawany innym. Giganci informatyczni stworzyli ukryty system naruszający to, co zawsze uważano za prywatne doświadczenie, które dzięki wyszukanym algorytmom stosowanym przez te firmy staje się półproduktem, który nazywam właśnie danymi behawioralnymi. Punktem przełomowym było zrozumienie przez te firmy, że owe dane mogą się stać bezkosztowymi aktywami, którymi można handlować podobnie jak ropą naftową, drewnem czy stalą. W logice kapitalizmu inwigilacji jesteśmy niczym więcej niż ropą naftową, którą się handluje.

– W jaki jednak sposób kapitalizm inwigilacji te dane behawioralne zamienia w zyski? W jaki sposób zbierane przez Google’a, Facebooka czy innych przedstawicieli Doliny Krzemowej informacje na temat naszych zachowań w internecie mogą stanowić towar? – Dane behawioralne pozwalają przewidywać nasze przyszłe zachowania, a nawet na nie wpływać. Z punktu widzenia reklamodawców, którym zawsze marzyło się stworzenie idealnego sposobu przekonania do zakupu konkretnych produktów, to potężne narzędzie do zwiększania własnych zysków. Wszystko dzięki niezliczonym ilościom informacji, zbieranym na podstawie naszych internetowych zachowań, które niczym w fabryce przetwarzane są w skomplikowanych procesach produkcyjnych w produkt. W kapitalizmie inwigilacji taką fabryką są systemy informatyczne wykorzystujące sztuczną inteligencję i samouczenie się maszyn, a produktem dane, stanowiące przedmiot wymiany na rynkach prognoz behawioralnych. Mówiąc prościej, kapitaliści inwigilacji niezwykle się wzbogacili, ponieważ wiele firm chętnie obstawia nasze przyszłe zachowania.

– Ile informacji zbierają o nas Facebook czy Google?

– Z przecieków z dokumentów wewnętrznych tych firm – bo oficjalnie nikt się tym nie chwali – wynika, że np. Facebook dzięki stosowanej przez siebie sztucznej inteligencji przetwarza biliony punktów danych dziennie, produkując co sekundę 6 mln przewidywań na temat ludzkich zachowań. Skala jest więc niewyobrażalna.

– Jedno z zagrożeń, które niesie za sobą kapitalizm inwigilacji, to naruszenie naszej prywatności, wykopanie przez sztuczną inteligencję rzeczy, które chcielibyśmy ukryć przed światem lub których nawet sobie nie uświadamiamy. Najgroźniejsze jest jednak to, że te informacje próbuje się przeciwko nam wykorzystać, skłaniając nas do konkretnych zachowań.

– Dokładnie. Nie od dzisiaj wiadomo, że wiedza i władza są ze sobą ściśle powiązane i ten, kto ma odpowiednią wiedzę, ma też władzę. We współczesnym świecie ten mechanizm wzmacniany jest przez globalną architekturę informatyczną. Posiadanie całej tej wiedzy o nas i możliwość przewidywania naszego zachowania na jej podstawie to dopiero pierwszy krok. Drugim jest wpływanie na nasze przyszłe zachowania. Wiedza o nas przemienia się we władzę nad nami, co kapitalizm inwigilacji eufemistycznie określa mianem targetowania. To niewinne techniczne słowo oznacza ni mniej, ni więcej cały szereg podprogowych narzędzi wykorzystujących wiedzę o nas, by skutecznie i wydajnie wpływać na nasze zachowania. Wiedzą dokładnie, co na nas działa, bo wiedzą o nas więcej niż my sami o sobie. To zresztą dlatego cały ten aparat stał się tak niezbędny w świecie polityki.

– No właśnie. Pamiętamy skandal z Cambridge Analytica, która miała wykorzystywać uzyskane od m.in. Facebooka informacje na temat wyborców, by ułatwić wybór Donalda Trumpa na prezydenta czy skłonić Brytyjczyków do głosowania za brexitem. Rzeczywiście Big Tech dysponuje wiedzą, która pozwala aż tak wpływać na mechanizmy demokratyczne?

– Zacznijmy od tego, że polityczna machina propagandowa, która działa w mediach społecznościowych, to zasadniczo wynajmowanie stworzonego przez nie aparatu i przy niewielkich korektach wykorzystywanie narzędzi reklamowych do osiągania celów politycznych. I rzeczywiście z naszej wiedzy wynika, że do tej pory w największej skali i z pełną efektywnością wykorzystali to ludzie odpowiedzialni za kampanię Trumpa w 2016 r. Bez tego nie byłby on w stanie wygrać. Zresztą we wrześniu 2020 r. dziennikarze brytyjskiego Channel 4 ujawnili, że uzyskali dostęp do danych użytych w tamtej kampanii przez ekipę Trumpa, by dotrzeć do 200 mln amerykańskich obywateli. Jednym z głównych celów sztabowców Trumpa było dotarcie za pomocą mediów społecznościowych do czarnoskórych wyborców z kluczowych stanów, by zniechęcić ich do udziału w wyborach.

– W jaki sposób chcieli na nich wypłynąć?

– Używali stworzonych na podstawie danych z mediów społecznościowych pogłębionych analiz profili osobowościowych, poglądów politycznych, profili emocjonalnych, sieci kontaktów, by wskazać grupę czarnoskórych wyborców, których można by było zniechęcić do głosowania. I byli w tym skuteczni, bo wiedzieli, w kogo i jak uderzyć, by osiągnąć swój cel.

– Przerażające, jak opisywany przez panią kapitalizm inwigilacji potrafi wypaczać mechanizmy demokratyczne.

– Owszem. Mamy bowiem oto obywateli, którzy dobrowolnie zrezygnowali ze swojego najważniejszego demokratycznego prawa – prawa do głosowania. Nikt ich do tego nie zmusił, przystawiając pistolet do głowy. Nikt nie groził im zesłaniem do gułagu. A mimo to zachowali się tak, jak sobie tego życzyli sztabowcy Trumpa. Dlaczego? Bo dzięki wiedzy o nich i mechanizmom targetowania na Facebooku wyświetlano im treści, które miały szansę wpłynąć na ich decyzje. Jednym pokazano filmik, na których Hillary Clinton rzekomo obraża czarnoskórą młodzież. Komuś pokazano fake newsy na jej temat. Jeszcze innym wyświetlono fałszywy apel jednej z organizacji czarnoskórych, która wzywała, by nie głosować. To wszystko odniosło skutek, ponieważ na podstawie informacji, które na temat konkretnych ludzi uzyskano dzięki ich zachowaniom w mediach społecznościowych, wybrano dokładnie tych, na których mogło to zadziałać.

– Ale też chyba kampania Trumpa z 2016 r. nie jest czymś wyjątkowym.

– Nie, to dzieje się każdego dnia. Facebook sam miał zresztą w 2016 r. dane wskazujące, że 64 proc. ludzi, którzy przyłączyli się w Niemczech do organizacji ekstremistycznych, trafiło do nich dzięki mechanizmom targetowania i algorytmom Facebooka. Doskonale o tym wiedzieli i nic z tym nie zrobili.

– Czasami mam wrażenie, że Facebook i politycznyekstremizmdoskonalesięuzupełniają. – Nic dziwnego. Dzięki radykalnym treściom Facebook dostaje coś, na czym bardzo mu zależy – zaangażowanie osób, które z niego korzystają. Im więcej czasu spędzają na Facebooku, tym więcej danych na ich temat można uzyskać. Im więcej danych się zbierze, tym więcej się wie, a im więcej się wie, tym dokładniej można przewidzieć, jak się oni zachowają, i skuteczniej wpływać na ich decyzje. Kapitalizm inwigilacji się kręci.