‘We moeten nadenken over de gevolgen van algoritmes. Een noodrem is er niet’
Hoe voorkomen we dat enkelingen een monopolie krijgen over algoritmes die ons leven sturen?
‘Algoritmes bepalen de zoekresultaten op internet, welke berichten van vrienden je op Facebook te zien krijgt, en op den duur misschien welke medicijnen je krijgt en welke straf als je een misdaad begaat’, zegt PeterPaul Verbeek. ‘Dat gaat ver. Er heerst angst in de maatschappij. Onze waarden staan op het spel. Waar zit de noodrem?’
‘De techniek dendert voort. We hebben vaak gedacht dat techniek ons van het podium zou stoten. Meestal ten onrechte. Stoommachines zouden arbeiders overbodig maken. Later vreesden we om die reden de automatisering. Mijn lezingen begin ik met een man met een vuistbijl in de ene hand en een smartphone in de andere. Het zit in onze natuur om technologieën te ontwikkelen.’
‘We moeten beducht zijn voor de risico’s en de technologie waar nodig bijsturen. Dat is beter dan angstvallig te proberen om technologische ontwikkelingen te stoppen. Het begint ermee dat we zaken niet te snel moeten framen als kwaadaardig.’
‘Laat ik een voorbeeld geven uit de zorg. Robots die oude mensen te eten geven; in eerste instantie denk je: dat is kil en koud, eten geven is toch mensenwerk? Ik denk juist van niet. Als oudere word je weer afhankelijk. Het overkwam mijn vader tijdens de laatste jaren van zijn leven. Hij vond het verschrikkelijk en stond maar een paar mensen toe hem bij te staan met zo iets delicaats. Nu is er een robot die hierbij kan helpen en die mensen hun onafhankelijkheid terug kan geven. Er zit zelfs sociale intelligentie in. De robot kan tijdens een etentje vaststellen of er een pauze valt tijdens een gesprek en op dat moment een hapje aanbieden. Ik vind dit een mooi voorbeeld van waardegericht ontwerpen. We zetten de robots en algoritmes in om de interactie tussen mensen te verbeteren.’
‘Erg spannend is de opkomst van lerende algoritmes. Die krijgen enorme hoeveelheden data gevoerd en trekken conclusies volgens ingewikkelde leerprocessen die de ontwerpers van de rekenmethoden niet meer kunnen doorgronden. Het risico dat hieraan kleeft, is dat we op een gegeven moment keuzes maken in ons privéleven, rechtspraak of zorg, die tot stand zijn gekomen op manieren die we niet goed kunnen doorzien en waar misschien wel commerciële of andere belangen ongezien een grote rol bij kunnen spelen.’
‘Lerende algoritmes worden een soort zelfstandige entiteiten. Hoe een keuze tot stand komt, is niet meer in stappen terug te beredeneren. Het is alsof je van een mens zou proberen te achterhalen welke onderdelen van zijn opvoeding en levenservaringen ertoe hebben geleid dat hij een crimineel werd. Dat gaat niet. Kunnen we zo’n algoritme laten bepalen welke straf een crimineel verdient? Ik denk niet dat we die kant op moeten. Rechters zouden zulke algoritmes wel kunnen gebruiken als hulpmiddel.’
‘Hetzelfde geldt voor de gezondheidszorg. IBM Watson for Oncology is een programma waarin zowat alle beschikbare literatuur over kanker is gestopt. Dat systeem kan goed overweg met menselijke vragen en is sterk in kankerdiagnostiek. In dat laatste kan een arts het programma nooit evenaren. De vraag is vervolgens: wat doe je met zo’n ding? Volgens mij is in zorg een menselijke blik nodig en kan Watson dienen als hulpmiddel.’ ‘Algoritmes gaan ook een grote invloed hebben op onze democratie. We kiezen nog wel onze volksvertegenwoordigers, maar diegenen die toegang hebben tot datastromen, en die deze kunnen begrijpen en duiden, bepalen steeds meer de agenda. We moeten voorkomen dat mensen, instanties of bedrijven een monopolie krijgen over data en algoritmes. Dit is zeker zo in de smart cities. In deze steden van de toekomst is de manier waarop het leven in de stad wordt ontsloten veranderd. In smart cities zijn alle apparaten met het internet verbonden en wemelt het van de sensoren. Algoritmes sturen je auto een kant op om files te omzeilen. Je elektriciteitsverbruik wordt gelinkt met die van de buurt om pieken in energieverbruik op te vangen. Is onze privacy wel gewaarborgd in zo’n stad? Daar spitsen discussies zich op toe. Het is een terechte zorg. Maar er is meer om over na te denken. Met smart cities geven we een nieuwe invulling aan onze democratie. De infrastructuur voor politiek engagement verandert.’
‘We kiezen nog wel onze volksvertegenwoordigers, maar diegenen die toegang hebben tot datastromen bepalen steeds meer de agenda’