Wie mag de zelfrijdende auto omverrijden?

Als een ongeluk echt niet te vermijden is, wie moet de zelfrijdende wagen dan als eerste keus aanrijden? Een bejaarde? Een dakloze? Een verkeersovertreder? Antwoorden verschillen van land tot land.

Moet een zelfrijdende auto zijn enige passagier laten verongelukken, als hij zo de levens van vijf kinderen kan redden? Van drie kinderen? Van één kind? Van een zwangere vrouw? Van een zwangere vrouw die de verkeersregels negeert en zichzelf in gevaar brengt? Van een dakloze? Van een blinde? Of diens hulphond?

Dit soort vragen wordt onontkoombaar nu de eerste autonoom rijdende wagens binnenkort de openbare weg opgaan. Vóór we het aan een machine overlaten om in een fractie van een seconde over leven en dood te beslissen, moeten we het eens zijn over welke beslissingen we van zo’n auto slikken en welke niet, zodat die in de software kunnen worden geprogrammeerd.

Om mensen over dit soort ethische vragen te doen nadenken, ontwierp Iyad Rahwan een paar jaar geleden aan het Massachusetts Institute of Technology zijn Moral Machine. Die online test, beschikbaar in tien wereldtalen waaronder het Arabisch, Chinees, Russisch en Spaans, schotelt deelnemers dertien dilemma’s voor. Telkens rijdt een zelfrijdende auto op een tweebaansweg, waarbij het voertuig hoe dan ook een verkeersongeluk zal veroorzaken. Maar de deelnemer kan de auto doen uitwijken naar het andere baanvak, of kiezen om dat niet te doen. Zo kan hij bepalen wie slachtoffer wordt en wie de aanrijding overleeft: man of vrouw, arm of rijk, jong of oud, slank of zwaarlijvig, gezond of ziek, passagier of voetganger, oppassend burger of verkeersovertreder, beroemd of onbekend.

Bijna 40 miljoen mensen uit 233 landen hebben de test inmiddels ingevuld.

Een analyse van de resultaten staat vandaag in het blad Nature. Over de grote lijnen zijn deelnemers het eens, rapporteert het team van Rahwan met collega’s uit Canada en Frankrijk. De meerder wat ethici en regelgevers erover denken, merken de onderzoekers op in Nature. Zo stipuleert de Duitse ethische regelgeving inzake autonome voertuigen nergens dat het de voorkeur verdient om enkele mensen op te offeren als daar meerdere levens kunnen worden gered. Ook stelt zij dat leeftijd niet mag worden meegerekend bij de beslissing om iemand al of niet te sparen, in sterk contrast met de uitkomst van het Moral Machineexperiment.

Ook rekening houden met persoonlijkheidskenmerken is voor de Duitse regelgevers taboe, terwijl zwaarlijvige mensen in de studie 20 procent meer kans maakten om ter dood te worden veroordeeld dan slanke mensen, en armen 40 procent meer dan rijken.

Dat gewone gebruikers inspraak moeten krijgen in hoe zelfrijdende wagens geprogrammeerd worden, willen de onderzoekers niet gezegd hebben. Ze vinden wel dat hun voorkeuren moeten worden gehoord. ‘We kunnen dit niet enkel aan ingenieurs, verzekeraars en ethici overlaten’, aldus Rahwan in Nature. ‘Er moet ook draagvlak zijn onder gebruikers.’