Wie rijdt u dood?
Moet een zelfrijdende auto zijn enige passagier laten verongelukken, als hij zo de levens van vijf kinderen kan redden? Van drie kinderen? Van één kind? Van een zwangere vrouw? Van een zwangere vrouw die de verkeersregels negeert en zichzelf in gevaar brengt? Van een dakloze? Van een blinde? Of diens hulphond?
Dit soort vragen wordt onontkoombaar nu de eerste autonoom rijdende wagens binnenkort de openbare weg opgaan. Vóór we het aan een machine overlaten om in een fractie van een seconde over leven en dood te beslissen, moeten we het eens zijn over welke beslissingen we van zo’n auto slikken en welke niet, zodat die in de software kunnen worden geprogrammeerd.
Moral Machine
Om mensen over dit soort ethische vragen te doen nadenken, ontwierp Iyad Rahwan een paar jaar geleden aan het Massachusetts Institute of Technology zijn Moral Machine. Die online test, beschikbaar in tien wereldtalen waaronder het Arabisch, Chinees, Russisch en Spaans, schotelt deelnemers dertien dilemma’s voor. Telkens rijdt een zelfrijdende auto op een tweebaansweg, waarbij het voertuig hoe dan ook een verkeersongeluk zal veroorzaken. Maar de deelnemer kan de auto doen uitwijken naar het andere baanvak, of kiezen om dat niet te doen. Zo kan hij bepalen wie slachtoffer wordt en wie de aanrijding overleeft: man of vrouw, arm of rijk, jong of oud, slank of zwaarlijvig, gezond of ziek, passagier of voetganger, oppassend burger of verkeersovertreder, beroemd of onbekend.
Bijna 40 miljoen mensen uit 233 landen hebben de test inmiddels ingevuld. Een analyse van de resultaten staat vandaag in het blad Nature. Over de grote lijnen zijn deelnemers het eens, rapporteert het team van Rahwan met collega’s uit Canada en Frankrijk. De meerderheid vindt dat zelfrijdende auto’s altijd voor het manoeuvre moeten kiezen dat het kleinste aantal slachtoffers oplevert, dat de levens van kinderen boven die van bejaarden stelt, dat mensen die zich aan de verkeersregels houden boven verkeerszondaars stelt en dat mensen spaart boven dieren.
Verkeersovertreders
Op andere punten lopen de antwoorden uit elkaar. Zo geven deelnemers uit Middenen Zuid-Amerika, net als die uit Frankrijk en zijn vroegere en huidige overzeese gebieden, er de voorkeur aan om vrouwen boven mannen te sparen, en atletische individuen boven mensen met overgewicht. Deelnemers uit landen met grote inkomensverschillen vinden dat sociale status een rol moet spelen bij de beslissing wie moet worden gered (bedrijfsleiders eerder dan daklozen). En in rijke landen waar naleving van de verkeersregels strak wordt gehandhaafd, zijn meer mensen voorstander van het doodrijden van verkeersovertreders dan in arme landen waar iedereen de verkeersregels ontduikt zonder daarop te worden aangesproken. De voorkeuren van het publiek, zoals die naar voren komen uit de tests met de Moral Machine, lopen daarmee niet helemaal gelijk met wat ethici en regelgevers erover denken, merken de onderzoekers op in Nature. Zo stipuleert de Duitse ethische regelgeving inzake autonome voertuigen nergens dat het de voorkeur verdient om enkele mensen op te offeren als daar meerdere levens kunnen worden gered. Ook stelt zij dat leeftijd niet mag worden meegerekend bij de beslissing om iemand al of niet te sparen, in sterk contrast met de uitkomst van het Moral Machine-experiment. Ook rekening houden met persoonlijkheidskenmerken is voor de Duitse regelgevers taboe, terwijl zwaarlijvige mensen in de studie 20 procent meer kans maakten om ter dood te worden veroordeeld dan slanke mensen, en armen 40 procent meer dan rijken.
Dat gewone gebruikers inspraak moeten krijgen in hoe zelfrijdende wagens geprogrammeerd worden, willen de onderzoekers niet gezegd hebben. Ze vinden wel dat hun voorkeuren moeten worden gehoord. ”We kunnen dit niet enkel aan ingenieurs, verzekeraars en ethici overlaten”, aldus Rahwan in Nature. ”Er moet ook draagvlak zijn onder gebruikers.”