Technology31.10.2018

Hoe moeten zelfrijdende auto’s beslissen over leven en dood?


Fascinerend onderzoek laat zien dat het uitmaakt wie (en waar) je dat vraagt

Het is de discussie die steeds maar weer terugkomt als je praat over zelfrijdende auto’s en andere voertuigen. The Trolley Problem, zoals de theoretische schets van wat te doen bij een onvermijdbaar ongeluk heet, wordt er steeds bijgehaald maar in de realiteit moeten zelfrijdende voertuigen straks met veel meer variabelen rekening houden. Dat betekent dat die systemen straks een moreel kompas nodig hebben. Als de remmen het niet doen en er zitten twee passagiers in de auto, moet de auto dan doorrijden en vijf mensen neermaaien of zichzelf in de berm rijden met als vermoedelijke uitkomst twee dode passagiers?

Lastige vragen, die door onderzoekers van het MIT Media Lab in kaart zijn gebracht via hun site Moral Machine. Daarop staan allerlei scenario’s en je kunt als bezoeker steeds kiezen tussen twee kwaden. Red je het kind of de bejaarde? De manager of de dakloze?Twee daklozen? Één man of twee vrouwen? Drie honden of een mens? Allemaal ‘leuk’ om over na te denken en dat betekent dat het lab inmiddels bijna veertig miljoen (!) beslissingen gemaakt door 2,3 miljoen mensen uit 233 landen heeft kunnen analyseren. Wat blijkt? Wie je redt in verschillende scenario’s heeft veel te maken met waar je woont en dus de cultuur waar je onderdeel van uitmaakt.

West, Oost en Zuid kiezen anders

De verschillen tussen de landen op basis van de mensen die het onderzoek hebben ingevuld is vrij groot. De interactieve kaart laat je een land kiezen en daarnaast kijken of er verschillen zijn met een ander land. Blijkbaar zijn er in Venezuela ten opzichte van Nederland de grootste verschillen in opinie. Zo is de bereidheid om de status van een persoon mee te nemen daar vele male groter (92 procent vond dat belangrijk) dan bij ons, net zoals men het daar belangrijker vindt om vrouwen te sparen ten opzichte van ons. Nederlanders hechten dan weer veel meer waarde aan het in leven houden van mensen ten opzichte van dieren. Ook vinden we het vaak beter om niets te doen, terwijl men daar in elk geval íets wil doen, wat de uitkomst ook moge zijn. Zo zijn er allerlei aspecten die meegeteld worden, al is dat niet meteen duidelijk als je de test aan het doen bent.

Dat heeft dus alles te maken met waarden en normen: in Nederland en veel andere Westerse landen maakt het meer mensen uit of je de verkeersregels ook hebt opgevolgd, terwijl dat in de armere landen niet als heel belangrijk wordt gezien. De mate van ongelijkheid in een land is blijkbaar een goede indicator voor hoe belangrijk status wordt gezien bij het redden van levens. Hoe ongelijker, hoe meer mensen met status beschermd worden. In landen als Zweden is het dan weer precies andersom, en heb je als executive net zoveel kans als een dakloze om doodgereden te worden door een zelfrijdende auto.

Waar is iedereen het wel over eens?

Ondanks al die verschillen – waar hier nog wat dieper op wordt ingegaan – zijn er echter ook overeenkomsten. De meeste mensen zijn het er over eens dat een auto beter een mens kan sparen dan een dier, dat het beter is om twee mensen te laten overleven dan eentje en dat er bij een keuze tussen jong en oud moet worden gekozen voor de mensen die hun leven nog voor zich hebben. Daarna wordt het wat rommeliger, maar misschien is dat voor dit moment nog niet zo’n probleem.

De onderzoekers denken dat er uiteindelijk verschillende ethische programma’s moeten komen die de cultuur van de plek waar een auto rijdt meeneemt in de besluitvorming. Daar zitten ook wel wat haken en ogen aan (wat als ik met mijn ‘bij rood oversteken is vette pech, voetganger’ zelfrijdende auto uit Nederland bij een ongeluk betrokken raak terwijl ik naar Italië ben gereden?) maar het loopt vooral nog te ver voor de technologische mogelijkheden van zelfrijdende auto’s uit.

Zo gaat een zelfrijdende auto het nog lang niet zien. Beeld: Moral Machine
Zo gaat een zelfrijdende auto het nog lang niet zien. Beeld: Moral Machine

Kiezen zonder alle informatie

Als je ziet hoe zelfrijdende auto’s op dit moment de wereld zien is het nog niet in de buurt van de schematische voorbeelden die we in de test zien. Een auto kan niet zien wie er jong, oud, van hoge status of dik is en of er sprake is van katten of honden. Een auto ziet vormen of andere auto’s (met daarin een onbekend aantal passagiers) en moet dus op basis daarvan beslissingen gaan maken. Natuurlijk zou er een hele hoop van die informatie via een AI-systeem met beeldherkenning gedaan kunnen worden, maar die systemen redden het niet om in de enkele milliseconden die bij een storing of ongeluk zijn om een beslissing te nemen de nodige data aan te leveren. Een zelfrijdende auto moet een vaste set regels aan boord hebben die op elk moment in een flits gevolgd kunnen worden.

Dan is er weinig anders mogelijk dan simpelweg het recht van de meeste te kiezen: liever één persoon in de auto de berm in, dan twee personen aanrijden. Zo mogelijk tegen een andere auto of object aanknallen met een zo laag mogelijke kans op overlijden van de passagier(s). Er voor kiezen om niet de andere weggebruiker omver of aan te rijden, behalve misschien als die er niet had mogen zijn volgens de verkeersregels. Daar valt wel het een en ander over te beslissen, maar een groot gedeelte van de geavanceerde vragen die door dit onderzoek gesteld worden zijn misschien pas over 30 jaar relevant, als de technologie in zelfrijdende auto’s goed genoeg is om een weloverwogen beslissing te maken. Tot die tijd is het voornamelijk interessant om te zien wie wat waar in leven wil houden.

[Afbeeldingen © Burak K – Pexels]

Patrick Smeets

Game-enthousiast, tech blogger en presentator. Was ooit rockster. Local celebrity in Limburg maar ziet graag veel van de wereld. Er zijn niet genoeg kattenGIFjes in de wereld.

Verder lezen over Technology

Formule 1-auto’s in 2026 worden kleiner en duurzamer

Het is voor de tweede keer sinds 2022 dat de FIA nieuwe regels bepaalt voor de auto's. Wat vooral opvalt is dat de auto’s kleiner worden.

Automotive07.06.2024

Formule 1-auto’s in 2026 worden kleiner en duurzamer

De slimste stad van Europa ligt straks in Griekenland

De grootste slimme stad ter wereld ligt straks in... Griekenland. Bij Athene wordt gewerkt aan deze bijzondere plaats. Dit houdt het in.

Technology07.05.2024

De slimste stad van Europa ligt straks in Griekenland

De maan krijgt zijn eigen Sint Bernards: robothonden

Er wordt al veel gepland voor op de maan. Er komen zelfs robothonden aan te pas. Die zijn bedoeld om de Sint Bernards van de maan te worden.

Technology10.04.2024

De maan krijgt zijn eigen Sint Bernards: robothonden

Gevonden voorwerpen: Androids gaan zoekgeraakte gadgets vinden

In de taxi, in de trein of in de kroeg: het zijn typisch plekken waar mensen hun smartphone vergeten. Iets te veel gedronken, een gladde zitting, donker, het zijn allemaal redenen waardoor je je smartphone nog sneller ui...

Technology09.04.2024

Gevonden voorwerpen: Androids gaan zoekgeraakte gadgets vinden

​Opmerkelijk: Amazon stopt met zijn kassaloze supermarkt

Het was een video die volledig viral ging, en terecht: Amazons kassaloze supermarkten. Nu lijkt het daar echter op terug te komen. Het verwijdert de Just Walk Out-technologie uit de Fresh-supermarkten in de Verenigde Sta...

Technology03.04.2024

​Opmerkelijk: Amazon stopt met zijn kassaloze supermarkt

Dit plaatje uit de Playboy is niet meer welkom in de tech

Is het een 1 april-grap, of is het echt? Het snijdt in ieder geval een belangrijk punt aan: Lenna, een vrouw die in 1972 in de Playboy stond als centerfold en eigenlijk Lena Forsén heet, wil niet meer worden gebruikt in...

Technology01.04.2024

Dit plaatje uit de Playboy is niet meer welkom in de tech

​Eerste mens met Neuralink gamet uren achtereen met zijn brein

Hij is volledig verlamd, maar kan schaakstukken verplaatsen via de computer zonder een muis of scherm aan te raken. Het is de 29-jarige Noland Arbaugh, een naam die geschiedenis heeft geschreven. Niet helemaal door zijn...

Technology21.03.2024

​Eerste mens met Neuralink gamet uren achtereen met zijn brein

​TV kopen? Dit is het verschil tussen LCD, OLED, QLED en mini-led

Wanneer je een televisie wilt aanschaffen, dan zijn er veel overpeinzingen. Eén van de belangrijkste overwegingen is het type scherm. Daarin kun je steeds meer keuzes maken en er komen daarbij veel afkortingen je kant o...

Gadgets11.03.2024

​TV kopen? Dit is het verschil tussen LCD, OLED, QLED en mini-led

Verder lezen over Toekomst

De eerste legale E-step in Nederland: UrbMob Kick&Go

Steeds vaker zie je in Nederland op straat mensen (met name jongeren) met een e-step voorbij komen. E-step zijn dan ook al in grote getale verkrijgbaar. Maar helaas riskeer je daarmee vaak wel de kans op een boete. Of er...

Gadgets20.06.2024

De eerste legale E-step in Nederland: UrbMob Kick&Go

Terugleverkosten bij zonnepanelen: zo verminder je ze

De slimste manier om je terugleverkosten laag te houden, is door zoveel mogelijk van je eigen energie zelf te gebruiken. Wat je immers zelf gebruikt, hoef je niet terug te leveren. En kost je dus niets extra’s. Zo houd je grip op je energierekening.

Technology13.06.2024

Terugleverkosten bij zonnepanelen: zo verminder je ze

Houd je energierekening laag 
Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei

Industrie 5.0 staat voor schaalbaarheid met een doel: bedrijven groeien op een manier die zowel de samenleving als het milieu ten goede komt. Het introduceert systemen die menselijke creativiteit en machinale efficiëntie combineren om flexibele en veerkrachtige bedrijfsmodellen te ontwikkelen. 

Technology11.06.2024

Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei

Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers

Op 13 mei vond het Smart Health-webinar plaats, een hybride event georganiseerd door het Care Innovation Center West-Brabant en Slimmer Leven. De centrale vraag van deze bijeenkomst was hoe we AI kunnen ontwerpen zodat deze goed landt bij zowel zorgverleners als zorgvragers.

Events30.05.2024

Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers

VivaTech 2024: Peugeot zet hoog in op rijplezier met Hypersquare

Op de techbeurs VivaTech 2024, die van 22-25 mei in Parijs plaatsvindt, toont Peugeot zijn visie op toekomstig rijplezier met een innovatief Hypersquare stuursysteem. Dit systeem is een van de vele technologische vooruitgangen in het volledig elektrische Inception Concept, dat nu zijn publieke debuut maakt in Parijs.

Automotive23.05.2024

VivaTech 2024: Peugeot zet hoog in op rijplezier met Hypersquare

SAP opent een experience center dat volledig is gericht op AI

SAP Labs France, een SAP-dochteronderneming die zich bezighoudt met R&D-activiteiten, kondigt de opening aan van haar Customer Experience Center in het Zuid-Franse technologiepark Sophia Antipolis.

Technology17.04.2024

SAP opent een experience center dat volledig is gericht op AI

AI in de Zorg: Inzichten van HLTH Europe Roadshow 2024

Na de verhelderende presentaties tijdens de HLTH Europe Roadshow 2024 blijft één ding onmiskenbaar: de toekomst van de gezondheidszorg is nauw verweven met technologische innovatie.

Technology17.04.2024

AI in de Zorg: Inzichten van HLTH Europe Roadshow 2024

Die botsproef in de ruimte heeft een Nederlands tintje

Ergens in de uitgestrektheid van de ruimte zou zomaar een onopgemerkte asteroïde op koers kunnen liggen voor een frontale botsing met de aarde.

Technology15.04.2024

Die botsproef in de ruimte heeft een Nederlands tintje

Dit is HyperScout H.

Verder lezen over Zelfrijdende auto

Zijn zelfrijdende auto’s inderdaad veiliger dan menselijke chauffeurs?

Er zijn dan minder ongelukken en je komt sneller op je bestemming aan met een zelfrijdende auto. Klopt dat?

Automotive20.06.2024

Zijn zelfrijdende auto’s inderdaad veiliger dan menselijke chauffeurs?

Eerste race met zelfrijdende race-auto’s was uiterst vreemd

Een race zoals de Formule 1, maar dan iets langzamer, iets minder auto's en zonder coureurs. Hoe? De zelfrijdende race-auto's uit de A2RL.

Automotive29.04.2024

Eerste race met zelfrijdende race-auto’s was uiterst vreemd

Deze zelfrijdende auto kan ook autonoom driften

Een auto die uit zichzelf kan rijden en beslissingen neemt op de weg is tegenwoordig al niet eens meer zo bijzonder, maar eentje die daarbij ook nog kan driften, zeker wel. Geely toont een testauto die zich goed staande...

Automotive29.03.2024

Deze zelfrijdende auto kan ook autonoom driften

​Apple Car is niet meer: Apple stopt met eigen auto

Apple stopt met het maken van zijn eigen elektrische auto. Het bedrijf zou al meer dan tien jaar werken aan een auto die zelfrijdend is, maar dat is nu voorbij. Meerdere bronnen laten weten dat Apple met Project Titan st...

Automotive27.02.2024

​Apple Car is niet meer: Apple stopt met eigen auto

Waymo start autonoom rijden tests op snelwegen

Het is eigenlijk geen nieuws meer dat we in het verkeer uiteindelijk steeds meer zelfrijdende auto’s en vrachtwagens gaan tegenkomen. De grootste struikelblokken zijn het aanpassen van de wegenverkeerswetten, de aanspr...

Automotive09.01.2024

Waymo start autonoom rijden tests op snelwegen

Voorlopig alleen voor eigen medewerkers in en rond Phoenix
Zelfrijdende auto’s op Britse wegen in 2026

Het gaat er ooit toch echt aankomen, volledig zelfrijdende auto’s in steden en op snelwegen. Tesla roept, bij monde van opperbaas Elon Musk, al jaren dat de EV’s van het bedrijf er in principe al klaar voor zijn. En...

Automotive27.12.2023

Zelfrijdende auto’s op Britse wegen in 2026

Gefaseerde uitrol en er moeten ook nog wel wat juridische hordes genomen worden
Zelfrijdende auto’s lijken nog ver weg: GM stopt er even mee

General Motors haalt al zijn zelfrijdende auto’s van de weg. Ze hebben zo vaak ongelukken dat het niet langer verantwoord is om ze de weg op te sturen. Diverse initiatieven van andere bedrijven rondom zelfrijdende taxi...

Automotive16.11.2023

Zelfrijdende auto’s lijken nog ver weg: GM stopt er even mee

Ford Blue Cruise: zonder handen aan het stuur over de Autobahn

Ford is een van de autofabrikanten van het eerste uur. De eerste grote innovatie, die tegenwoordig nog altijd door alle merken toegepast wordt, is de lopende band productielijn die in 1913 door Henry Ford werd bedacht om...

Automotive28.09.2023

Ford Blue Cruise: zonder handen aan het stuur over de Autobahn