Christopher Wylie na Cambridge Analytica
‘Dat ik de Brexit veroorzaakte en Trump hielp verkozen worden, dat voelt klote’
Voor de verkiezing van Donald Trump tot president van de Verenigde Staten, wil Christopher Wylie (29) niet de volle verantwoordelijkheid nemen. Voor de Brexit wel. ‘Zonder de psychologische oorlogswapens die ik daarvoor mee heb helpen bedenken, was dat referendum anders uitgedraaid. Dat voelt klote, maar je kunt het niet ongedaan maken.’
Er zijn bedrijven, zoals Facebook, die bijna alles over u weten. Er zijn ook bedrijven die tegen betaling verkiezingen beïnvloeden, al dan niet op legale wijze. In de herfst van 2013 besloten enkele briljante nerds om die twee zaken te combineren tot een propagandamachine van militaire allure. Christopher Wylie, een linksgeoriënteerd Canadees wonderkind, was een van die nerds.
Nog geen drie jaar later kozen de Amerikaanse Republikeinen de complete outsider Donald Trump als presidentskandidaat, besliste de Britse kiezer totaal onverwacht om eenzijdig de Europese Unie te verlaten en verraste Trump de wereld door president te worden.
Vandaag is Wylie een van de felste opposanten van het systeem dat hij zelf hielp te bedenken. Als er iemand begrijpt welke gevaren de democratie bedreigen, vandaag en in de nabije toekomst, is hij het. Dat is ook waarover hij te genwoordig de wereld rond met regeringen en parlementen gaat praten. Een dag voor dit gesprek kreeg Facebook in het Verenigd Koninkrijk een boete van 500.000 pond opgelegd, omdat het gebruikersgegevens liet misbruiken. Cambridge Analytica, het bedrijf dat Wylie hielp op te richten, is intussen de naam van een schandaal. ‘Uiteraard heb ik er spijt van dat ik daar gewerkt heb, maar ik merk ook graag op dat ik er al na anderhalf jaar als eerste ben vertrokken.’
De reden die hij aangeeft, is dat Steve Bannon, de strateeg van de Trumpcampagne, vroeg om de psychologische basis van racisme te onderzoeken, met als doel dat soort gevoelens bij bepaalde kiezers aan te wakkeren. Dat vond Wylie onethisch. Hij was toen 24. Hij had al technologisch advies gegeven aan het campagneteam van Barack Obama en aan de Brit se liberaaldemocraten. Cambridge Analytica had hij helpen op te richten toen hij als research director werkte bij SCL, een Brits bedrijf dat eigenlijk gespecialiseerd was in militaire desinformatiecampagnes.
‘Toen ik bij SCL begon, wist ik niet eens wie Bannon was. Ik werd er aangeworven om extremisme te helpen bestrijden. Als je weet hoe informatie zich online verspreidt, krijg je een beeld van hoe terroristen mensen rekruteren. Om daar via handmatige methodes zicht op te krijgen, moet je enorm veel mensen inzetten. Dus onderzochten ze onder meer of algoritmes niet vanzelf problematische online profielen konden opsporen, om dan door te spelen naar iemand die er verder mee aan de slag kon.’
Dat lijkt legitiem.
‘Informatie is een van de dimensies waarin oorlogen worden
uitgevochten. Zoals je gevechtsvliegtuigen hebt voor de strijd in de lucht, heb je ook wapens die het informatiesysteem van je tegenstander binnendringen of onklaar maken. Wanneer je de rekrutering van terroristen tegengaat, vraag je je niet af of de ronselaar die je viseert daar wel mee akkoord gaat. Het wordt pas problematisch wanneer je dat wapen gebruikt in een verkiezingscampagne, zoals gebeurd is bij de verkiezing van Trump en bij het Brexitreferendum. Wanneer burgers deelnemen aan de democratie, is het essentieel dat ze volledig onafhankelijk kunnen handelen. Ze mogen niet in de val worden gelokt om iets te geloven wat niet waar is.’
Is dat niet altijd een risico bij een verkiezingscampagne?
‘Als je, zoals Cambridge Analytica, gebruikmaakt van sociale media, wordt dat risico onzicht baar. Je doet aan microtargeting. Elke doelgroep krijgt haar eigen propaganda.’
Hoe wakker je racisme aan met microtargeting?
‘Eerst moet je inzicht krijgen in hoe vooroordelen tot stand komen. Niet iedereen heeft evenveel aanleg voor bepaalde opvattingen. Bepaalde mensen zijn door hun persoonlijkheid gevoeliger voor vooroordelen op basis van ras. Omdat er bepaalde gedragspatronen zijn die verband houden met persoonlijkheidskenmerken, kun je op basis van wat iemand online doet op zoek gaan naar mensen met racistische neigingen. Dat wil zeker niet zeggen dat ze elke dag naar websites voor neonazi’s surfen.’
Ze kunnen evengoed van een bepaald merk schoenen houden.
‘Precies. De datawetenschappers bij Cambridge Analytica gingen op zoek naar dat soort patro nen. Eerst zoek je mensen van wie je zeker weet dat ze raciale vooroordelen hebben. Daarna ga je op zoek naar mensen die zich online op een gelijkaardige manier gedragen, bijvoorbeeld door op Facebook hetzelfde schoenenmerk te liken. Door gerichte propaganda probeer je bij hen onderhuidse vooroordelen aan te wakkeren. Steve Bannon wist dat er bij de Amerikaanse kiezers een stille meerderheid was die aanleg had voor racisme en wilde bij hen het vuur aan de lont steken.’
Hoe doe je dat?
‘Bijvoorbeeld door hen filmpjes te laten zien met de onschuldig lijkende boodschap dat Amerika toch niet meer is zoals het vroeger was. Bij Cambridge Analytica werkten psychologen en antropologen die doelwitten identificeerden. Daar ging een creatieve afdeling, met designers en copywriters, mee aan de slag. We testten het effect van hun werk en gebruikten het daarna op grote schaal.’
Denkt u dat Cambridge Analytica had bestaan zonder u?
‘Ik denk het niet. Steve Bannon klopte bij SCL aan omdat hij op zoek was naar iemand die culturen kon bijsturen. Ik deed toen onderzoek naar manieren om data over individueel online gedrag zodanig uit te breiden dat je ze kon gebruiken voor een hele bevolking. Daaruit is Cambridge Analytica ontstaan.’
Waarom wil Steve Bannon een hele cultuur veranderen?
‘Bannon is ervan overtuigd dat politiek voortvloeit uit cultuur, niet omgekeerd. Als je een cultuur kunt bijsturen, verschuift de politiek vanzelf. Toen hij hoorde over de militaire projecten van SCL,
‘Data zijn als uranium: alleen explosief als je er veel hebt’
dacht hij: waarom zou ik niet dezelfde technieken gebruiken in mijn strijd tegen progressieve liberale waarden?’
Hoe verander je een cultuur?
‘Een cultuur is niet iets wat ergens in het ijle zweeft. Ze is opgebouwd uit mensen, met hun aanleg en hun ervaringen. Bespeel die aanleg door in te grijpen op hun ervaringen en je kunt een hele cultuur naar je hand zetten. Het is ironisch dat altright, een beweging die zich afzet tegen bijvoorbeeld feminisme, toch een heel goed begrip heeft van hoe complex een identiteit kan zijn. De progressieven deelden de bevolking op in doelgroepen, zoals vrouwen, latino’s, AfroAmerikanen. Terwijl er niet zoiets bestaat als dé vrouw. Het is veel efficiënter om politieke communicatie af te stemmen op iemands ervaringen en persoonlijkheid.’
‘Een werkloze Amerikaan die in een trailer park leeft, voelt zich geen geprivilegieerde blanke man, maar in de eerste plaats arm. Dat gevoel kun je uitbuiten met een advertentie die suggereert dat politici niet met zijn situatie bezig zijn, maar met die van een rijke transgender uit New York die moeilijk doet over de icoontjes op openbare toiletten. Door groepen niet als één blok maar als een complex amalgaam te zien, kun je dankzij data en algoritmes uitklaren welk deel van hun persoonlijkheid je precies moet bespelen.’
Is dat ook gebeurd bij de Brexitcampagne?
‘De mensen van “Vote Leave” hadden een veel fijner begrip dan hun tegenstanders van hoe ze burgers moesten aanspreken. De proEuropese politici trokken naar het noorden van Engeland en zeiden dat de Brexit een ramp zou zijn voor de economie. Veel van die mensen voelen zich al een half leven in de steek gelaten door de economie. Zij zagen geen politici die het beste met hen voorhadden, maar rijken die hun geld veilig wilden stellen.’
Denkt u dat het Brexitreferendum anders was uitgedraaid zonder jullie hulp?
‘De mensen van de “Vote Leave”campagne hebben 40 procent van hun budget aan ons besteed. Het resultaat was maar heel nipt in hun voordeel. Dit heeft het verschil gemaakt.’
Wat is er mis mee wanneer politici door onderzoek een fijner beeld krijgen van hun kiespubliek?
‘Daar is op zich niets mis mee. Wel fout is dat we dat onderzoek gebruikten om een deel van de mensen te ontmoedigen om te gaan stemmen, dat we bevolkingsgroepen tegen elkaar op hebben gezet en dat we aan verschillende mensen andere en soms verkeerde informatie gaven. Die fragmentatie is gevaarlijk, omdat mensen dan geen gedeelde ervaringen meer hebben.’
Elke kiezer krijgt zijn eigen versie van een bepaalde politicus te zien.
‘Zo is het letterlijk. In de klassieke invulling van democratie staat iemand op een zeepkist en verkondigt zijn boodschap. Iedereen die luistert, hoort hetzelfde. Als hij liegt, zullen er mensen zijn die dat opmerken. Met de technieken van Cambridge Analytica doet de politicus een onzichtbaarheidsmantel aan en fluistert op internet elke kiezer iets anders in het oor.’
U bent eind 2014 bij Cambridge Analytica vertrokken. Het Brexit referendum en de verkiezing van Trump waren in 2016. Hoe kunt u dat allemaal weten?
‘Het is niet omdat ik er vertrokken was, dat ik er geen bronnen meer had. Alles wat ik zeg, kan ik bewijzen met documenten. De boete die Facebook gisteren (11 juli, red.) kreeg, zal niet de laatste zijn. Er lopen nog onderzoeken.’
Waarom bent u naar buiten gekomen als klokkenluider?
‘Er was niet één moment dat de doorslag gaf. Toen ik mijn ontslag gaf bij Cambridge Analytica, hebben ze me voor de rechter gedaagd en geprobeerd te verhinderen dat ik nog in de politiek zou werken. Ik was 24 jaar en had machtige vijanden. Ik heb toen een overeenkomst getekend dat ik niets over hun werk zou vertellen en zij me met rust zouden laten. Pas toen Donald Trump verkozen werd, besefte ik wat voor impact het werk van Cambridge Analytica kon hebben. Rond die periode ben ik off the record informatie gaan ver
‘Het Russische oliebedrijf Lukoil heeft zich uitgebreid laten informeren over de mogelijkheid om op grote schaal westerse kiezers te misleiden’
schaffen aan de Britse krant The
Guardian. Zij hebben me overtuigd om in maart naar buiten te komen als klokkenluider.’
Wie moet dit soort misbruik van data een halt toeroepen? Sommige machthebbers van vandaag zijn mensen die er juist bij gebaat waren. In het Witte Huis hebt u alvast geen vriend.
‘Ik ben in de Amerikaanse Senaat ondervraagd door Republikeinse senatoren die ooit klant waren bij Cambridge Analytica, zoals Ted Cruz. Dat is bizar, maar als je in de VS wilt dat er iets gebeurt, moet je vandaag de Republikeinen mee hebben. Ted Cruz is tegen overheidscontrole en voor vrijheid. Als ik hem uitleg wat misbruik van big data met die vrijheid kan doen, is hij wel bereid om te luisteren.’
Is de EU hiertegen opgewassen?
‘Er zitten goede elementen in de nieuwe privacywet. Maar er is ook iets raars aan de manier waarop je bij elke website “akkoord” moet klikken alvorens je privacy geschonden mag worden. In de EU kun je toch ook niet door vooraf “akkoord” te klikken een onveilig vliegtuig of een onveilig kankermedicijn nemen? Wat ga je trouwens doen? “Niet akkoord” klikken? Dat doet niemand, want dan kun je niet op die website.’
Begrijpen politici wel voldoende hoe datamisbruik in zijn werk gaat?
‘Dat hoeft niet. Hoe garandeert een overheid de veiligheid in de luchtvaart? Niet door gedetailleerd uit te leggen hoe een vliegtuig gebouwd moet worden. Leg normen op en laat de rest over aan een gespecialiseerd controleorgaan. Daarnaast is er nood aan een ethische code voor programmeurs, zoals ze ook bestaan voor artsen en advocaten.’
Toen u on the record ging als klokkenluider, heeft Facebook prompt uw account geblokkeerd. Het verwonderde ons dat u nog een account had.
‘Facebook verlaten heeft weinig zin. Ze hebben je gegevens toch al. Bovendien ben ik niet bezorgd dat ik het slachtoffer word van een desinformatiecampagne.’
Is het risico niet dat iedereen dat denkt?
Kunnen mensen de veiligheid van hun gegevens verhogen door online hun gedrag te veranderen?
‘Zou u die vraag ook stellen als het ging om onveilige gebouwen, vliegtuigen, medicijnen of auto’s? Die vraag legt de verantwoordelijkheid op de verkeerde plaats.’
Denkt u dat Facebook dit ernstig wil oplossen?
‘Neen. Er zijn mensen binnen dat bedrijf die zich realiseren wat het probleem is en niet bereid zijn er iets aan te doen, wegens de nadelen op korte termijn. Dat is kortzichtig. Hebben veiligheidsgordels de autoindustrie ten gronde gericht? Integendeel. Autofabrikanten zijn erbij gebaat als er minder doden vallen bij autoongelukken. Op lange termijn is Facebook gebaat bij meer veiligheid. Sociale media zijn nodig en hebben onmiskenbaar ook een positieve impact. Maar als je alleen maar bezig bent met gericht ad verteren, creëer je een probleem dat Cambridge Analytica mogelijk maakt.’
Zegt u nu dat Mark Zuckerberg geen schurk is, maar een zakenman die onvoorzichtig is omdat hij anders geld misloopt?
‘Voor mij is dat ook een definitie van een schurk.’
Wat moeten we denken van Robert Mercer, de miljardair die Cambridge Analytica financierde? U kent hem persoonlijk. Doet hij het voor het geld?
‘In ieder geval niet voor het geld. Die man is zo rijk dat een miljoen dollar voor hem wcpapier is. De brandstof van zijn jacht kost 20.000 dollar per uur. Ik heb daar eens drie uur gedineerd. Dat heeft hem dus al minstens 60.000 dollar gekost. Miljardairs zijn vaak miljardair geworden omdat ze ondernemend zijn. Een leven waarin je alles kunt kopen, vinden ze saai, dus gaan ze zich met politiek bemoeien. Mercer wil geen cultuuroorlog voeren zoals Steve Bannon, hij sleutelt aan de maatschappij omdat hij dat interessant vindt.’
Hij is ook niet meteen politiek neutraal.
‘Nee, uiteraard. Hij is altright. Maar hij ziet zichzelf niet als een veldheer, wel als een ingenieur.’
U hebt ook voor Obama gewerkt. Zijn opvattingen lijken meer op de uwe, maar was het werk dat u voor hem deed niet even onethisch?
‘Er is een fundamenteel verschil. Obama had veel potentiële kiezers die niet gewoon waren om te gaan stemmen en gebruikte algoritmes om die kiezers te mobiliseren. Steve Bannon gebruikte militaire strategieën om bevolkingsgroepen tegen elkaar op te zetten, mensen te misleiden, zwarte kiezers te demotiveren. Obama voerde openlijk campagne. Je kreeg Obamaadvertenties te zien, niet een of ander opruiend filmpje dat van een nieuwssite leek te komen. Bovendien werkte hij op een andere schaal. Data is als uranium, het is pas explosief als je er veel gebruikt.’
Zal microtargeting bij campagnes niet binnenkort zo normaal worden als tvspots of marktonderzoek?
‘Data zijn zoals elektriciteit. Je kunt geen campagne meer voeren zonder. Het probleem is niet dat politieke partijen persoonlijke data gebruiken om gericht te adverteren, wel de manier waarop dat gebeurt. Vandaag is er geen openheid. Zoals donaties ooit geregeld werden om corruptie te vermijden, moeten er nu regels komen over gericht adverteren. Een eer ste stap zou zijn dat alle content die een campagne verspreidt voor iedereen toegankelijk wordt. Dan kunnen onderzoekers, politieke tegenstanders en journalisten ook zien welke filmpjes je getoond hebt aan de blanke werklozen in de trailer parks. Je mag nog altijd een apart filmpje voor hen maken, maar je moet er wel open over zijn.’
U lijkt optimistisch: we kunnen dit aanpakken.
‘Ik kan moeilijk mijn armen in de lucht gooien en de democratie opgeven. Ik werk allang in de politiek. Het is een bizarre tijd, er is veel misgelopen, maar wat mij optimistisch stemt, is dat veel wetgevers oprecht geïnteresseerd zijn in een oplossing. Wie had vorig jaar gedacht dat gegevensbescherming vandaag een belangrijk politiek thema zou zijn?’
Moeten we ons zorgen maken over de komende verkiezingen?
‘Wanneer de EU verkiezingen houdt, schept dat mogelijkheden voor een strategische tegenstander. Daarom moet ze haar verkiezingen verdedigen als een bruggenhoofd tegen een landoffensief. We moeten er ook mee ophouden om neerbuigend te doen over kiezers die misleid worden. Ze zijn de slachtoffers van een krachtig oorlogswapen.’
Wat is het sterkste bewijs dat u gezien hebt dat Rusland het Brexitreferendum en de verkiezing van Trump heeft beïnvloed?
‘De Russen zagen erop toe dat de Brexitcampagne niet zonder geld kwam te zitten, onder meer via belachelijk lucratieve zakendeals. Er was strategisch mailverkeer. Het Russische oliebedrijf Lukoil heeft zich tijdens die campagnes ook uitgebreid door Cambridge Analytica laten informeren over de mogelijkheid om op grote schaal westerse kiezers te misleiden.’
We zijn verontwaardigd als dat soort misleiding gebeurt in westerse democratieën, terwijl bedrijven als Cambridge Analytica openlijk hun diensten aanprijzen in ontwikkelingslanden. Is dat niet hypocriet?
‘De ironie is dat ze in die landen al hun knowhow ontwikkeld hebben: voor westerse klanten, dankzij westerse onderzoeksresultaten, onder meer van de Amerikaanse overheid. Vandaag werken ze met de Russen tegen ons. Dit probleem is nu al in ons gezicht ontploft. We hadden ons natuurlijk ook eerder kunnen afvragen of het wel ethisch is om oorlogsstrategieën toe te passen om in ontwikkelingslanden zakelijke belangen te verdedigen. De burgers van die landen zijn er veel erger aan toe dan wij.’
Is er een probleem als je dit soort technieken gebruikt om vrouwenrechten te promoten in Iran?
‘Ik denk wel dat het Westen vrouwenrechten mag promoten in Iran, maar doe dat dan transparant en niet met psychologische oorlogsvoering.’
Mag je dat soort technieken gebruiken om Oekraïners te winnen voor de Europese zaak?
‘Daar woedt een oorlog. Dat lijkt mij nu net een plek waar oorlogswapens op hun plaats zijn.’
‘Je laat een burger ook niet “akkoord” klikken voor hij in een onveilig vliegtuig stapt’