Technologie31.10.2018

Hoe moeten zelfrijdende auto’s beslissen over leven en dood?


Fascinerend onderzoek laat zien dat het uitmaakt wie (en waar) je dat vraagt

Het is de discussie die steeds maar weer terugkomt als je praat over zelfrijdende auto’s en andere voertuigen. The Trolley Problem, zoals de theoretische schets van wat te doen bij een onvermijdbaar ongeluk heet, wordt er steeds bijgehaald maar in de realiteit moeten zelfrijdende voertuigen straks met veel meer variabelen rekening houden. Dat betekent dat die systemen straks een moreel kompas nodig hebben. Als de remmen het niet doen en er zitten twee passagiers in de auto, moet de auto dan doorrijden en vijf mensen neermaaien of zichzelf in de berm rijden met als vermoedelijke uitkomst twee dode passagiers?

Lastige vragen, die door onderzoekers van het MIT Media Lab in kaart zijn gebracht via hun site Moral Machine. Daarop staan allerlei scenario’s en je kunt als bezoeker steeds kiezen tussen twee kwaden. Red je het kind of de bejaarde? De manager of de dakloze?Twee daklozen? Één man of twee vrouwen? Drie honden of een mens? Allemaal ‘leuk’ om over na te denken en dat betekent dat het lab inmiddels bijna veertig miljoen (!) beslissingen gemaakt door 2,3 miljoen mensen uit 233 landen heeft kunnen analyseren. Wat blijkt? Wie je redt in verschillende scenario’s heeft veel te maken met waar je woont en dus de cultuur waar je onderdeel van uitmaakt.

West, Oost en Zuid kiezen anders

De verschillen tussen de landen op basis van de mensen die het onderzoek hebben ingevuld is vrij groot. De interactieve kaart laat je een land kiezen en daarnaast kijken of er verschillen zijn met een ander land. Blijkbaar zijn er in Venezuela ten opzichte van Nederland de grootste verschillen in opinie. Zo is de bereidheid om de status van een persoon mee te nemen daar vele male groter (92 procent vond dat belangrijk) dan bij ons, net zoals men het daar belangrijker vindt om vrouwen te sparen ten opzichte van ons. Nederlanders hechten dan weer veel meer waarde aan het in leven houden van mensen ten opzichte van dieren. Ook vinden we het vaak beter om niets te doen, terwijl men daar in elk geval íets wil doen, wat de uitkomst ook moge zijn. Zo zijn er allerlei aspecten die meegeteld worden, al is dat niet meteen duidelijk als je de test aan het doen bent.

Dat heeft dus alles te maken met waarden en normen: in Nederland en veel andere Westerse landen maakt het meer mensen uit of je de verkeersregels ook hebt opgevolgd, terwijl dat in de armere landen niet als heel belangrijk wordt gezien. De mate van ongelijkheid in een land is blijkbaar een goede indicator voor hoe belangrijk status wordt gezien bij het redden van levens. Hoe ongelijker, hoe meer mensen met status beschermd worden. In landen als Zweden is het dan weer precies andersom, en heb je als executive net zoveel kans als een dakloze om doodgereden te worden door een zelfrijdende auto.

Waar is iedereen het wel over eens?

Ondanks al die verschillen – waar hier nog wat dieper op wordt ingegaan – zijn er echter ook overeenkomsten. De meeste mensen zijn het er over eens dat een auto beter een mens kan sparen dan een dier, dat het beter is om twee mensen te laten overleven dan eentje en dat er bij een keuze tussen jong en oud moet worden gekozen voor de mensen die hun leven nog voor zich hebben. Daarna wordt het wat rommeliger, maar misschien is dat voor dit moment nog niet zo’n probleem.

De onderzoekers denken dat er uiteindelijk verschillende ethische programma’s moeten komen die de cultuur van de plek waar een auto rijdt meeneemt in de besluitvorming. Daar zitten ook wel wat haken en ogen aan (wat als ik met mijn ‘bij rood oversteken is vette pech, voetganger’ zelfrijdende auto uit Nederland bij een ongeluk betrokken raak terwijl ik naar Italië ben gereden?) maar het loopt vooral nog te ver voor de technologische mogelijkheden van zelfrijdende auto’s uit.

voorbeeld-scenario
voorbeeld-scenario

Kiezen zonder alle informatie

Als je ziet hoe zelfrijdende auto’s op dit moment de wereld zien is het nog niet in de buurt van de schematische voorbeelden die we in de test zien. Een auto kan niet zien wie er jong, oud, van hoge status of dik is en of er sprake is van katten of honden. Een auto ziet vormen of andere auto’s (met daarin een onbekend aantal passagiers) en moet dus op basis daarvan beslissingen gaan maken. Natuurlijk zou er een hele hoop van die informatie via een AI-systeem met beeldherkenning gedaan kunnen worden, maar die systemen redden het niet om in de enkele milliseconden die bij een storing of ongeluk zijn om een beslissing te nemen de nodige data aan te leveren. Een zelfrijdende auto moet een vaste set regels aan boord hebben die op elk moment in een flits gevolgd kunnen worden.

Dan is er weinig anders mogelijk dan simpelweg het recht van de meeste te kiezen: liever één persoon in de auto de berm in, dan twee personen aanrijden. Zo mogelijk tegen een andere auto of object aanknallen met een zo laag mogelijke kans op overlijden van de passagier(s). Er voor kiezen om niet de andere weggebruiker omver of aan te rijden, behalve misschien als die er niet had mogen zijn volgens de verkeersregels. Daar valt wel het een en ander over te beslissen, maar een groot gedeelte van de geavanceerde vragen die door dit onderzoek gesteld worden zijn misschien pas over 30 jaar relevant, als de technologie in zelfrijdende auto’s goed genoeg is om een weloverwogen beslissing te maken. Tot die tijd is het voornamelijk interessant om te zien wie wat waar in leven wil houden.

[Afbeeldingen © Burak K – Pexels]

Jeroen

Jeroen is al meer dan 15 jaar betrokken bij Dutchcowboys en de andere titels. Begonnen als content creator, en nu verantwoordelijk voor alle titels die vallen onder Dutchcowboys Media. Behalve liefhebber van advertising, entertainment, tech, gadgets, en eigenlijk alles online, is hij ook een autoliefhebber.

Verder lezen over Zelfrijdende auto

Geen radar sensoren meer aan de voorzijde van de Tesla Model 3 en Y

Bij Tesla geldt al vanaf het begin de stelregel ‘What Elon says, goes!’. Onlangs sprak de multimiljardair zich uit over het gebruik van radar sensoren aan de voorzijde van de auto’s als ondersteuning, samen met cam...

Technologie26.05.2021

Geen radar sensoren meer aan de voorzijde van de Tesla Model 3 en Y

Tesla wil Autopilot volledig afhankelijk maken van camera's en AI-software
Baidu stuurt eerste écht zelfrijdende taxi’s de straten van Beijing in

De Chinese techgigant Baidu heeft afgelopen weekend de eerste écht zelfrijdende Apollo taxi’s de straten van Beijing in gestuurd. Tot nu toe waren de zelfrijdende taxi’s wel al meerdere keren getest, maar dan zat er...

Technologie05.05.2021

Baidu stuurt eerste écht zelfrijdende taxi’s de straten van Beijing in

De 'veiligheidschauffeur' zit nog wel op de passagiersstoel
Tesla rijdt ook zelf als je niet achter het stuur zit

In de VS heeft Consumer Reports aangetoond dat je op een relatief eenvoudige manier het Autopilot systeem van Tesla zo kunt manipuleren dat de auto zelf rijdt, ook wanneer er geen niemand op de bestuurdersstoel zit. Cons...

Verwondering23.04.2021

Tesla rijdt ook zelf als je niet achter het stuur zit

Het is kinderlijk eenvoudig om Autopilot voor de gek te houden
Ford rolt BlueCruise voor zelfrijdende auto’s geleidelijk uit in de VS

Ford heeft bekendgemaakt dat de autofabrikant haar systeem voor zelfrijdende voertuigen, of advanced driver assist system (ADAS), BlueCruise genaamd, de komende maanden in de VS gaat uitrollen. Via een software update zu...

Technologie15.04.2021

Ford rolt BlueCruise voor zelfrijdende auto’s geleidelijk uit in de VS

Het eerst naar de Mustang Mach-E en F-150 pickup
​Welke innovaties kunnen we in de toekomst verwachten in de autowereld?

De geschiedenis van de automobiel loopt een heel eind synchroon met de geschiedenis van de techniek. De auto is zo’n groot onderdeel van het bestaan van veel mensen geworden, dat we de gemakken die we gewend zijn in on...

Technologie25.07.2019

​Welke innovaties kunnen we in de toekomst verwachten in de autowereld?

Porsche test autonoom rijden

Vandaag de dag is men nog steeds bezig met hoe men zich via een autonome rijfunctie van A naar B verplaatst op een betrouwbare manier. Porsche test momenteel in een samenwerking met innovatieplatform Autobahn een nieuwe...

Technologie21.02.2019

Porsche test autonoom rijden

De Peugeot E-Legend Concept: Unboring the Future

Peugeot introduceert dit jaar op de Autosalon Parijs een verrassende nieuwe concept: de e-Legend. Het studiemodel laat zien hoe een volledig autonome en elektrische auto er volgens Peugeot uit zou gaan zien. De buitenkan...

Design20.09.2018

De Peugeot E-Legend Concept: Unboring the Future

Mooie buitenkant, maar vooral slimme binnenkant
Mercedes-Benz laat modulair zelfrijdend autoconcept zien

Bizar is het zeker, de VISION Urbanetics die Mercedes-Benz gepresenteerd heeft. De concept car is zelfrijdend (natuurlijk), elektrisch (natuurlijk) maar daar houdt het op met de dingen die je zou verwachten. Het belangri...

Technologie11.09.2018

Mercedes-Benz laat modulair zelfrijdend autoconcept zien

Goed idee, maar nog ver weg