5 min

10 min

15 min

(typ bijvoorbeeld: Typhoon, technologie, 5 minuten, NRC, reportage)

Dood spoor

De vraag is eenvoudig, het antwoord ingewikkeld, de implicaties verwoestend: wie verdient het een crash met een zelfrijdende auto te overleven?

tekst: Rens Lieman, Esquire   |    fotografie: Waymo | Esquire, november 2016

zoeken

esc om te sluiten    z om te openen

Esquire

november 2016

tekst

Rens Lieman

fotografie

Waymo

leestijd

4 minuten

Als de remmen van je auto het begeven, neemt het lot het over van ratio. Geen tijd om onderscheid te maken tussen de voetgangers die het zebrapad verderop oversteken. Geen tijd om te beslissen: is het leven van een kind meer waard dan dat van een bejaarde? Heeft de dokter meer recht om te overleven dan een graaiende bankier? Algoritmes in de zelfrijdende auto - waar onder meer Tesla, Google en Uber mee experimenteren - kunnen die beslissingen mogelijk wel maken in de toekomst. Dat verplicht ons er nu al over na te denken. Hoe die algoritmes geschreven moeten worden, is even belangrijk als ingewikkeld. Gelukkig is er een internetquizje om ons te helpen.

Vooruit, de Moraalmachine is meer dan dat. Het is een platform dat een crowd-sourced beeld moet geven hoe gewone mensen denken over wat machines moeten besluiten in morele dilemma’s. De op hol geslagen zelfrijdende auto is vooralsnog het dilemma dat het minst tot de verbeelding spreekt, en staat dus centraal.

De drie wetenschappers die het programma bedachten en lieten bouwen door het medialab van het Massachusetts Institute of Technology deden dit voorjaar onderzoek naar het morele dilemma inzake de zelfrijdende auto. Esquire sprak een van hen, Jean-François Bonnefon. Bonnefon doet onder meer voor het Franse ministerie van Economie en Onderzoek psychologisch onderzoek naar redenatie, besluitvorming en moraliteit.

‘Er is een paradox,’ zegt hij. ‘Uit ons onderzoek bleek dat mensen van mening zijn dat alle zelfrijdende auto’s zo geprogrammeerd moeten worden dat het bij een aankomend ongeluk het scenario kiest dat tot de minste slachtoffers leidt. Ook als dat betekent dat de auto tegen een muur rijdt, het scenario waarbij alleen de bestuurder verongelukt. Maar tegelijkertijd gaven die proefpersonen aan zelf zo’n auto niet te willen kopen.’ 


Ja, zo werkt het dus niet. Maar zo denken we wel. Dit is wat economen het ‘sociale dilemma’ noemen: het individu profiteert als hij zelfzuchtig handelt, tenzij iedereen net zo zelfzuchtig handelt. Bonnefon noemt het betalen van belasting als goed voorbeeld: 'Iedereen vindt dat belasting betalen nodig is om het land draaiende te houden. Maar zelf betalen we het liever niet. Het dilemma wordt ingewikkelder als het niet gaat om het betalen van belasting, dat hoogstens een beetje pijn doet, maar om een in potentie dodelijk auto-ongeluk. Dat is eng. Het zou hoogst bewonderenswaardig zijn, heldhaftig zelfs, als iemand bereid is zich op te offeren voor het grotere goed.’ 

Zelfs als het eigen leven bij iedereen voorop zou staan, resteert de vraag: is minder slachtoffers per definitie beter dan meer? Dat leidt weer tot twee nieuwe vragen: voor hoeveel telt een zwangere vrouw? Is elk mensenleven evenveel waard? Wat als de voetgangers die overstaken door rood liepen? Wat als het criminelen waren? Telt gezondheid - een atleet tegenover een ongezonde dikkerd?

Is elk mensenleven evenveel waard? Wat als de voetgangers die overstaken door rood liepen?

De discussie wordt reeds decennia gevoerd. De Britse filosoof Philippa Foot introduceerde in 1967 een ethisch gedachte-experiment dat we nu kennen als het trolleyprobleem. Een op hol geslagen trein rijdt op vijf spoorwerkers af. Jij als buitenstaander hebt de mogelijkheid een wissel te bedienen, waardoor de tram op een ander spoor zal raken, waar maar één spoorwerker werkt. Trek je aan de hendel? In varianten op het trolleyprobleem wordt meer informatie gegeven over de spoorwerkers. 


De Moraalmachine is zo’n variant. Het is bedacht omdat de vele verschillende scenario’s die je kunt bedenken niet meer in één traditioneel wetenschappelijk onderzoek passen. De Moraalmachine is voor iedereen toegankelijk. Een bezoeker krijgt willekeurig dertien van de ‘talloze’ door de onderzoekers bedachte scenario’s voorgeschoteld. Kleine figuurtjes in de auto en op het zebrapad geven een idee wie er betrokken zijn bij het aanstaande ongeluk: mannen, vrouwen, baby’s, honden, bejaarden, bankiers, dokters… Een doodshoofdje erbij om aan te geven wie zal overlijden in scenario A, en wie in scenario B. Jij kiest welk scenario het redelijkst is. Na de test krijg je een overzicht van al je verwoestende beslissingen.

We vermijden dit soort dilemma’s liever omdat het zo ingewikkeld is

Bij ondergetekende moesten vooral honden en bejaarden het ontgelden. Na mens versus dier, lijkt jong versus oud mij een van de eenvoudigere afwegingen. Ik werd meer aan het nadenken gezet toen bleek dat ik volgens een meedogenloze ethische wet te werk was gegaan: jouw auto die kapot gaat, jouw leven dat zal eindigen (en die van je medepassagiers).

Bonnefon deelt nog geen resultaten, dat kan tot vooringenomenheid leiden bij mensen die de test nog gaan doen. Tot dusver hebben ‘honderdduizenden’ mensen bij elkaar ‘meer dan tien miljoen’ scenario’s doorlopen. Die populariteit verbaast hem: ’We vermijden dit soort dilemma’s liever omdat het zo ingewikkeld is. En omdat ongelukken in een fractie van een seconde gebeuren, had het voor een bestuurder ook niet veel zin hierover na te denken. Tot nu, door de komst van zelfrijdende auto’s is de discussie weer actueel geworden.’

De Moraalmachine is ontworpen om aan die discussie bij te dragen met nieuwe argumenten en overwegingen. Volgens Bonnefon hoeven we niet te verwachten dat uit de resultaten iets valt af te lijden dat het dilemma oplost, een verzameling regels waar iedereen goed mee kan leven. Moeten we dan wel aan de knoppen wíllen draaien? Waarom niet het lot het lot laten, Bonnefon? ‘Eh, vind je dát de meest ethisch verantwoorde keuze?’

 / 

       rens@renslieman.nl
Rens Lieman is freelance journalist. Zijn werk verschijnt onder meer in NRC Next, Het Parool, Esquire, ELLE en Nieuwe Revu. Lees hier meer verhalen.

meer essays