Wie rijd je omver: de bejaarde of het kind?

Een man, een vrouwelijke arts, twee criminelen en een manager zitten samen in de auto. Het zou het begin van een wat vreemde mop kunnen zijn, maar het is een scenario in een gedachtenexperiment dat een internationaal team wetenschappers aan miljoenen mensen over heel de wereld voorlegde. De remmen van de auto zijn stuk. Rijdt de auto rechtdoor, dan knalt hij op een obstakel, met de dood van alle inzittenden tot gevolg. Of de auto kan uitwijken, maar rijdt dan overstekende voetgangers dood. Wat moet de auto doen? In het vakblad  Nature analyseren wetenschappers welke keuzes proefpersonen uit meer dan honderd landen maken.

In verschillende scenario’s op de website The Moral Machine variëren de wetenschappers van het Amerikaanse Massachusetts Institute of Technology (MIT) telkens de inzittenden en de overstekende voetgangers: mens of dier, vrouw of man, jong of oud, hoge of lage sociale status. Ook de verkeerssituatie varieert: soms negeren de voetgangers een rood licht. Het doel: op zoek gaan naar universele regels die autonome auto’s zouden kunnen volgen.

Sinds de lancering van de website in juni 2016 deden miljoenen mensen de test, goed voor bijna 40 miljoen beslissingen. Daar rolden drie vrijwel universele voorkeuren uit. Mensen gaan voor op dieren (in sommige scenario’s steekt een hond of kat de straat over). Meer levens sparen is beter dan minder levens redden. En kinderen gaan voor op ouderen.

Mensen uit 233 landen namen aan de test deel. Op basis van 130 landen met minstens 100 deelnemers, keken de wetenschappers naar de geografische spreiding van voorkeuren. Die vormen drie ‘morele’ clusters. In de Westerse cluster zitten onder meer de Verenigde Staten en de meeste Europese landen. De Oosterse cluster bevat veel landen uit Azië en het Midden-Oosten, en de Zuidelijke cluster  vooral landen uit Centraal- en Zuid-Amerika.

De voorkeur om jonge levens te sparen is minder uitgesproken in de Oosterse cluster, en hoger in de Zuidelijke cluster. Hetzelfde geldt voor de voorkeur om mensen met een hoge sociale status te sparen. De overtuiging dat mensen voorgaan op dieren is in de Zuidelijke cluster dan weer minder sterk. 

De wetenschappers vonden ook enkele verbanden met culturele en economische verschillen tussen de landen. In culturen die sterk op het individu zijn gericht, is de voorkeur om meer in plaats van minder levens te sparen meer uitgesproken. In culturen die meer belang hechten aan de gemeenschap, en waar respect voor ouderen hoog in het vaandel wordt gedragen, hechten de deelnemers minder belang aan het sparen van jonge levens.

In  rijkere landen (met een hoger bruto nationaal product), met goed functionerende regels en instellingen,  is er minder mededogen met wie illegaal de straat oversteekt. In landen met meer economische ongelijkheid, behandelen proefpersonen individuen met verschillende status in het experiment ook minder als gelijken. De voorkeur om vrouwenlevens te verkiezen boven die van mannen, is meer uitgesproken naarmate  de kloof tussen de levensverwachting van mannen en vrouwen kleiner is.

In België blijkt de voorkeur om voetgangers te sparen erg uitgesproken – slechts in zeven landen is die nog groter. Nederland staat hier op plaats 25. Nederlanders zijn dan weer iets meer geneigd om wie zich aan de wet houdt te sparen (19^de versus 31^ste plaats).

Wat moeten we hier nu mee? ‘De belangrijkste les is dat een poging om morele beslissingen in autonome voertuigen te programmeren in verschillende landen op meer of minder weerstand zal stuiten’, licht onderzoeker Edmond Awad (MIT) via e-mail toe.

Technisch is het  niet zo moeilijk om die beslissingen te variëren naargelang de regio, of zelfs te laten kiezen door de gebruiker, denk Jan Broersen, die aan de Universiteit Utrecht onderzoek doet naar ethiek en artificiële intelligentie. ‘Je kunt een algoritme koppelen aan de gps of een knop maken waarmee de gebruiker zijn voorkeuren kan ingeven.’

‘Maar moeten we dit soort voorkeuren aan de eigenaar van de auto overlaten?’, vraagt Broersen zich af. ‘Het lijkt mij bijvoorbeeld vrij idioot dat iemand voor ‘liever meer doden’ kan kiezen.’ Broersen heeft ook zijn bedenkingen bij de praktische relevantie van de gedachtenexperimenten, ‘toch behoorlijke randgevallen’. ‘Er zal in eerste instantie een afweging moeten worden gemaakt tussen de levens van de inzittenden en die van andere weggebruikers. Dan weten we wel waar de inzittenden zullen voor kiezen. Misschien is het beter dat anderen die keuzes maken.’

Waarop die keuzes dan moeten worden gebaseerd, is minder duidelijk. Een Duitse expertencommissie deed al een poging enkele regels te formuleren. Eén daarvan luidt dat er bij een onvermijdelijk ongeval geen onderscheid mag worden gemaakt op basis van leeftijd, geslacht, fysieke of mentale eigenschappen. Precies wat de deelnemers aan het experiment met de Moral Machine wel doen. ‘Volgens de ethiek van de Duitse filosoof Immanuel Kant mogen we niet rekenen met levens’, zegt Broersen. ‘Dat is soms tegen-intuïtief. Maar of iets goed of fout is, hangt volgens de meeste filosofen evenmin af van wat een meerderheid van de mensen vindt.’

Volgens Broersen zullen we een mengsel nodig hebben van Kantiaanse ethiek en een pragmatische ethiek, gebaseerd op de regels die je meet in de samenleving. ‘Maar niemand weet nog hoe dat te doen. Want waar kies je voor als beide elkaar tegenspreken?’

De Amerikaanse wetenschappers vinden zelf dat hun bevraging niet zonder meer als basis voor de beslissingen van autonome voertuigen moet dienen. ‘Die moeten niet afgestemd worden op de wensen van het publiek’, zegt Awad. ‘Zeker niet als die problematisch zijn. Ons onderzoek is een manier om mensen te betrekken bij deze beslissingen. De resultaten geven de experts wel inzicht in wat er leeft bij de bevolking en welke reacties ze kunnen verwachten.’