Cyfrowa dyskryminacja

Facebook i Google wykorzystują stereotypy w optymalizacji kampanii reklamowych.

Cała twoja historia korzystania z Google’a i Facebooka może sprawić, że pewnego dnia otrzymasz określoną propozycję pracy. Niekoniecznie twoim zdaniem najlepszą.

Google i Facebook są znane z ciągłego doskonalenia silników reklamowych, co pozwala reklamodawcom docierać do coraz bardziej precyzyjnie określonych grup odbiorców. Np. Facebook pozwala kierować reklamy do znajomych, którzy obchodzą urodziny w przyszłym tygodniu. Wcześniej pozwalał zablokować wyświetlanie konkretnej reklamy osobom określonej rasy. Po opisaniu tych praktyk przez redakcję serwisu ProPublica.org gigant przestał je stosować. Nie powstrzymało to jednak platform przed dalszą optymalizacją algorytmów reklamowych, i to bez wiedzy reklamodawców.

AlgorithmWatch* przeprowadził eksperyment i umieścił na Facebooku i Google ogłoszenia o następujących ofertach pracy:

• deweloper machine learning,

• kierowca ciężarówek,

• fryzjer,

• opiekun dla dzieci,

• radca prawny,

• pielęgniarz.

Wszystkie ogłoszenia wykorzystywały męską formę nazw zawodów i zawierały zdjęcie związane z pracą. Eksperyment przeprowadzono w Niemczech, Polsce, Francji, Hiszpanii i Szwajcarii. Reklamy kierowały do rzeczywistych ofert pracy na portalu Indeed, działającym w każdym z tych krajów.

W żadnej z reklam nie zastosowano żadnych kryteriów targetowania z wyjątkiem obszaru geograficznego, który jest obowiązkowy przy tworzeniu kampanii.

Nie mieliśmy złudzeń co do tego, że nasze reklamy zostaną z jednakową częstotliwością pokazane mężczyznom i kobietom. Jednak – skoro nie kierowaliśmy naszej kampanii do konkretnych odbiorców – mogliśmy oczekiwać, że zobaczą ją mniej więcej te same grupy docelowe.

W Facebooku decydują zdjęcia

Tymczasem do pewnego stopnia Google, a szczególnie Facebook stosowały optymalizację kampanii bez pytania nas o zgodę. Naszą reklamę oferty dla kierowców ciężarówek pokazano w Niemczech 4864 mężczyznom i tylko 386 kobietom. Nasza reklama pracy dla opiekunów do dzieci, wyświetlana dokładnie w tym samym czasie, została pokazana 6456 kobietom i tylko 258 mężczyznom.

Szczegółowe wyniki można prześledzić na naszym wykresie.

Kupując przestrzeń reklamową w Google czy na Facebooku, firmy składają oferty na zautomatyzowanej aukcji. Kiedy użytkownik ogląda aktualności na Facebooku albo wyszukuje coś w Google, widzi reklamy tej firmy, która zapłaciła najwięcej za dotarcie do tego konkretnego użytkownika.

Zmuszanie reklamodawców do udziału w aukcji za każdym razem, gdy ktoś odświeża aktualności na Facebooku, byłoby nieekonomiczne. Dlatego platformy „optymalizują” proces licytacji, a reklamodawcy rywalizują ze sobą tylko o te osoby, które mają większą szansę na kliknięcie w daną reklamę. W ten sposób firmy są bardziej skłonne do płacenia za osoby, które będą klikać w ich reklamy, a platformy mogą szybciej zainkasować budżety reklamowe za „wyklikane” reklamy.

Sześć ofert pracy w pięciu krajach. Oto, jak Facebook zoptymalizował wyświetlanie reklam odbiorcom różnych płci

A zatem 4864 mężczyzn i 386 kobiet, którym pokazano ofertę pracy dla kierowców ciężarówek w ramach naszego eksperymentu, to osoby, które – według Facebooka – były najbardziej nią zainteresowane i w największym stopniu skłonne do kliknięcia w ogłoszenie.

Próbowaliśmy się dowiedzieć, jak Facebook oblicza skłonność użytkownika do kliknięcia w reklamę. W innym eksperymencie reklamowaliśmy oferty pracy dla kierowców ciężarówek, ale zmieniliśmy zdjęcie i tekst. Reklamy były wyświetlane we Francji. W jednym ogłoszeniu użyliśmy formy wskazującej na płeć „kierowcy ciężarówki”, po francusku chauffeur. W drugim używaliśmy wyłącznie formy żeńskiej, czyli

W trzecim pokazaliśmy zdjęcie wiejskiej drogi zamiast ciężarówki, a w czwartym – zdjęcie kosmetyków.

Podział według płci odbiorców, którym zostały wyświetlone nasze reklamy, sugeruje, że algorytm Facebooka kierował się głównie obrazami.

Google dyskryminuje mniej?

Przebieg kampanii, które opłaciliśmy w Google był podobny, ale dyskryminacja była tam znacznie bardziej ograniczona. Różnica w ekspozycji reklamy najczęściej pokazywanej kobietom w stosunku reklamy najczęściej pokazywanej mężczyznom nigdy

6 456 KOBIETOM I 258

MĘŻCZYZNOM

•

• nie przekraczała 20 pkt proc. Co ciekawe, optymalizacja reklam według płci nie przebiegała w Google według stałego wzorca. Przykład? W Niemczech najczęściej pokazywano kobietom reklamę pracy na stanowisku kierowcy ciężarówek.

Google nie pozwolił nam jednak na składanie „nieograniczonych” ofert w aukcji. Musieliśmy ręcznie ustawić cenę, jaką byliśmy gotowi zapłacić za każdą osobę, która kliknie w reklamę. Gdyby oferta była nieograniczona, platforma automatycznie decydowałaby, ile zaoferować za kliknięcie na podstawie budżetu reklamodawcy. Oznacza to, że wyniki uzyskane na tych dwóch platformach nie są bezpośrednio porównywalne.

Dodatkową komplikacją dla naszego eksperymentu było to, że Facebook arbitralnie egzekwował przestrzeganie swego regulaminu. I tak w Hiszpanii wszystkie nasze reklamy zostały zawieszone już po kilku godzinach, gdyż algorytm uznał, że są oszustwem obiecującym „szybkie wzbogacenie się”. W Polsce z kolei dwie z naszych reklam zostały zawieszone po tym, jak Facebook uznał, że dotyczą „spraw społecznych, wyborów lub polityki”.

Skąd my to znamy?

To potwierdza wnioski, do których doszedł zespół z Northeastern University w Chicago. W 2019 r. jego badacze wykazali, że optymalizacja reklam stosowana przez Facebook dyskryminuje odbiorców w sposób potencjalnie niezgodny z prawem.

Piotr Sapieżyński, jeden ze współautorów badania Northeastern University, powiedział AlgorithmWatch, że Facebook z pewnością uczy się na podstawie danych historycznych. Zaznaczył, że platformy nie zmieniały istotnie rozkładu płci w czasie trwania kampanii reklamowej. Przeciwnie, od razu po opublikowaniu reklamy Facebook zdecydował, komu ją pokazać. Zatem prawdopodobnie platforma przewiduje, kto może kliknąć reklamę, na podstawie reakcji użytkowników na podobne reklamy w przeszłości.

– Ten mechanizm jest z natury konserwatywny. Zakłada, że znane z przeszłości zachowanie się powtórzy – mówi Sapieżyński. I dodaje, że tym samym Facebook „tworzy również przyszłość”, gdyż decyduje o tym, co zobaczą użytkownicy odwiedzający serwis, i pozbawia część ludzi określonych szans.

Automatyczne kierowanie kampanii może być pomocne na wiele sposobów. Przykład: oferty pracy w zawodach licencjonowanych można wyświetlać wyłącznie osobom z wymaganym stopniem naukowym albo uprawnieniami. Europejskie prawo zabrania jednak dyskryminacji w oparciu m.in. o rasę, wiek oraz płeć, co łatwo zrozumieć. Gdyby oferta pracy na stanowisku pielęgniarki lub opiekuna była ogłaszana tylko na Facebooku, mężczyźni pracujący w tych zawodach mieliby marne szanse.

AlgorithmWatch skontaktował się z ekspertami w zakresie ustawodawstwa antydyskryminacyjnego. Potwierdzili, że zautomatyzowane kierowanie reklam przez Facebooka i być może również przez Google stanowi pośrednią dyskryminację.

– Niezależnie od aspektu prawnego platformy przyczyniają się do dyskryminacji w sensie etycznym – uważa prof. Tobias Matzner, specjalizujący się m.in. w mediach i algorytmach na Uniwersytecie Paderborn.

– Takie procesy w oczywisty sposób przyczyniają się do dyskryminacji, szczególnie jej strukturalnych form, które blokują dla części odbiorców dostęp do określonych obszarów społecznych – mówi prof. Matzner. – To pokazuje, jak nasza historia korzystania z Facebooka lub Google może sprawić, że pewnego dnia otrzymamy taką, a nie inną pracę. I stanie się to nie z mocy jakiegoś werdyktu wydanego przez potężną firmę, lecz dlatego, że dane z naszej historii użytkowania oraz dane w algorytmach platform łączą się w taki sposób, że po prostu nie widzimy określonych ofert pracy.

Eksperyment z 2019 r. na Northeastern University w Chicago pokazał, że Facebook stosował dyskryminację w oparciu o rasę. Nie byliśmy w stanie sprawdzić, czy robi to również w Europie, ale Piotr Sapieżyński nie widzi powodu, dla którego Facebook nie miałby wszędzie używać tego samego mechanizmu.

Udowodnij to, czego nie widziałeś

Dyskryminacja tego typu jest zakazana, ale może być niemożliwa do udowodnienia przez np. kierowczynię ciężarówki szukającej nowej pracy, której Facebook nie wyświetla żadnych ofert. Obowiązujące prawo nakłada ciężar dowodu na skarżących, ale użytkownicy Facebooka nie potrafią dowiedzieć się, jakich ofert pracy im nie pokazano. A reklamodawcy nie potrafią zagwarantować, że ich reklamy będą wyświetlane bez dyskryminacji. Niemiecka agenda zwalczająca dyskryminację wezwała do zmiany przepisów, żeby rozwiązać ten problem, ale zmiany na razie się nie pojawiły.

Neuhtah Opiotennione, amerykański aktywista działający w obronie lokatorów, usiłował pozwać Facebook za dyskryminację osób starszych w kampaniach reklamowych. Jednak zajmujący się sprawą sędzia z Kalifornii oddalił pozew.

Zakaz wstępu

Przedstawiciele Google nie odpowiedzieli na wielokrotne prośby o komentarz. Zawiesili jednak nasze konto reklamowe kilka dni po wysłaniu przez nas pytań. Firma stwierdziła, że „omijaliśmy systemy reklamowe i procesy Google”, czego nie zrobiliśmy.

Facebook również nie odpowiedział na pytania. Poprosił natomiast o pokazanie wszystkich naszych ustaleń i zapytał o nazwiska dziennikarzy, z którymi AlgorithmWatch współpracował – co można uznać za próbę zastraszania.

l– organizacja non profit zajmująca się badaniami i działalnością na rzecz przejrzystości algorytmów podejmujących decyzje albo wspierających procesy decyzyjne mające znaczenie społeczne.

Ten materiał otrzymał wsparcie od JournalismFund.eu