Jeroen is al meer dan 15 jaar betrokken bij Dutchcowboys en de andere titels. Begonnen als content creator, en nu verantwoordelijk voor alle titels die vallen onder Dutchcowboys Media. Behalve liefhebber van advertising, entertainment, tech, gadgets, en eigenlijk alles online, is hij ook een autoliefhebber.
Het is de discussie die steeds maar weer terugkomt als je praat over zelfrijdende auto’s en andere voertuigen. The Trolley Problem, zoals de theoretische schets van wat te doen bij een onvermijdbaar ongeluk heet, wordt er steeds bijgehaald maar in de realiteit moeten zelfrijdende voertuigen straks met veel meer variabelen rekening houden. Dat betekent dat die systemen straks een moreel kompas nodig hebben. Als de remmen het niet doen en er zitten twee passagiers in de auto, moet de auto dan doorrijden en vijf mensen neermaaien of zichzelf in de berm rijden met als vermoedelijke uitkomst twee dode passagiers?
Lastige vragen, die door onderzoekers van het MIT Media Lab in kaart zijn gebracht via hun site Moral Machine. Daarop staan allerlei scenario’s en je kunt als bezoeker steeds kiezen tussen twee kwaden. Red je het kind of de bejaarde? De manager of de dakloze?Twee daklozen? Één man of twee vrouwen? Drie honden of een mens? Allemaal ‘leuk’ om over na te denken en dat betekent dat het lab inmiddels bijna veertig miljoen (!) beslissingen gemaakt door 2,3 miljoen mensen uit 233 landen heeft kunnen analyseren. Wat blijkt? Wie je redt in verschillende scenario’s heeft veel te maken met waar je woont en dus de cultuur waar je onderdeel van uitmaakt.
West, Oost en Zuid kiezen anders
De verschillen tussen de landen op basis van de mensen die het onderzoek hebben ingevuld is vrij groot. De interactieve kaart laat je een land kiezen en daarnaast kijken of er verschillen zijn met een ander land. Blijkbaar zijn er in Venezuela ten opzichte van Nederland de grootste verschillen in opinie. Zo is de bereidheid om de status van een persoon mee te nemen daar vele male groter (92 procent vond dat belangrijk) dan bij ons, net zoals men het daar belangrijker vindt om vrouwen te sparen ten opzichte van ons. Nederlanders hechten dan weer veel meer waarde aan het in leven houden van mensen ten opzichte van dieren. Ook vinden we het vaak beter om niets te doen, terwijl men daar in elk geval íets wil doen, wat de uitkomst ook moge zijn. Zo zijn er allerlei aspecten die meegeteld worden, al is dat niet meteen duidelijk als je de test aan het doen bent.
Dat heeft dus alles te maken met waarden en normen: in Nederland en veel andere Westerse landen maakt het meer mensen uit of je de verkeersregels ook hebt opgevolgd, terwijl dat in de armere landen niet als heel belangrijk wordt gezien. De mate van ongelijkheid in een land is blijkbaar een goede indicator voor hoe belangrijk status wordt gezien bij het redden van levens. Hoe ongelijker, hoe meer mensen met status beschermd worden. In landen als Zweden is het dan weer precies andersom, en heb je als executive net zoveel kans als een dakloze om doodgereden te worden door een zelfrijdende auto.
Waar is iedereen het wel over eens?
Ondanks al die verschillen – waar hier nog wat dieper op wordt ingegaan – zijn er echter ook overeenkomsten. De meeste mensen zijn het er over eens dat een auto beter een mens kan sparen dan een dier, dat het beter is om twee mensen te laten overleven dan eentje en dat er bij een keuze tussen jong en oud moet worden gekozen voor de mensen die hun leven nog voor zich hebben. Daarna wordt het wat rommeliger, maar misschien is dat voor dit moment nog niet zo’n probleem.
De onderzoekers denken dat er uiteindelijk verschillende ethische programma’s moeten komen die de cultuur van de plek waar een auto rijdt meeneemt in de besluitvorming. Daar zitten ook wel wat haken en ogen aan (wat als ik met mijn ‘bij rood oversteken is vette pech, voetganger’ zelfrijdende auto uit Nederland bij een ongeluk betrokken raak terwijl ik naar Italië ben gereden?) maar het loopt vooral nog te ver voor de technologische mogelijkheden van zelfrijdende auto’s uit.
Kiezen zonder alle informatie
Als je ziet hoe zelfrijdende auto’s op dit moment de wereld zien is het nog niet in de buurt van de schematische voorbeelden die we in de test zien. Een auto kan niet zien wie er jong, oud, van hoge status of dik is en of er sprake is van katten of honden. Een auto ziet vormen of andere auto’s (met daarin een onbekend aantal passagiers) en moet dus op basis daarvan beslissingen gaan maken. Natuurlijk zou er een hele hoop van die informatie via een AI-systeem met beeldherkenning gedaan kunnen worden, maar die systemen redden het niet om in de enkele milliseconden die bij een storing of ongeluk zijn om een beslissing te nemen de nodige data aan te leveren. Een zelfrijdende auto moet een vaste set regels aan boord hebben die op elk moment in een flits gevolgd kunnen worden.
Dan is er weinig anders mogelijk dan simpelweg het recht van de meeste te kiezen: liever één persoon in de auto de berm in, dan twee personen aanrijden. Zo mogelijk tegen een andere auto of object aanknallen met een zo laag mogelijke kans op overlijden van de passagier(s). Er voor kiezen om niet de andere weggebruiker omver of aan te rijden, behalve misschien als die er niet had mogen zijn volgens de verkeersregels. Daar valt wel het een en ander over te beslissen, maar een groot gedeelte van de geavanceerde vragen die door dit onderzoek gesteld worden zijn misschien pas over 30 jaar relevant, als de technologie in zelfrijdende auto’s goed genoeg is om een weloverwogen beslissing te maken. Tot die tijd is het voornamelijk interessant om te zien wie wat waar in leven wil houden.
[Afbeeldingen © Burak K – Pexels]
Verder lezen over Zelfrijdende auto
Technologie26.05.2021
Geen radar sensoren meer aan de voorzijde van de Tesla Model 3 en Y
Tesla wil Autopilot volledig afhankelijk maken van camera's en AI-softwareTechnologie05.05.2021
Baidu stuurt eerste écht zelfrijdende taxi’s de straten van Beijing in
De 'veiligheidschauffeur' zit nog wel op de passagiersstoelVerwondering23.04.2021
Tesla rijdt ook zelf als je niet achter het stuur zit
Het is kinderlijk eenvoudig om Autopilot voor de gek te houdenTechnologie15.04.2021
Ford rolt BlueCruise voor zelfrijdende auto’s geleidelijk uit in de VS
Het eerst naar de Mustang Mach-E en F-150 pickupTechnologie25.07.2019
Welke innovaties kunnen we in de toekomst verwachten in de autowereld?
Technologie21.02.2019
Porsche test autonoom rijden
Design20.09.2018
De Peugeot E-Legend Concept: Unboring the Future
Mooie buitenkant, maar vooral slimme binnenkantTechnologie11.09.2018