Patrick Smeets
Game-enthousiast, tech blogger en presentator. Was ooit rockster. Local celebrity in Limburg maar ziet graag veel van de wereld. Er zijn niet genoeg kattenGIFjes in de wereld.
Het is de discussie die steeds maar weer terugkomt als je praat over zelfrijdende auto’s en andere voertuigen. The Trolley Problem, zoals de theoretische schets van wat te doen bij een onvermijdbaar ongeluk heet, wordt er steeds bijgehaald maar in de realiteit moeten zelfrijdende voertuigen straks met veel meer variabelen rekening houden. Dat betekent dat die systemen straks een moreel kompas nodig hebben. Als de remmen het niet doen en er zitten twee passagiers in de auto, moet de auto dan doorrijden en vijf mensen neermaaien of zichzelf in de berm rijden met als vermoedelijke uitkomst twee dode passagiers?
Lastige vragen, die door onderzoekers van het MIT Media Lab in kaart zijn gebracht via hun site Moral Machine. Daarop staan allerlei scenario’s en je kunt als bezoeker steeds kiezen tussen twee kwaden. Red je het kind of de bejaarde? De manager of de dakloze?Twee daklozen? Één man of twee vrouwen? Drie honden of een mens? Allemaal ‘leuk’ om over na te denken en dat betekent dat het lab inmiddels bijna veertig miljoen (!) beslissingen gemaakt door 2,3 miljoen mensen uit 233 landen heeft kunnen analyseren. Wat blijkt? Wie je redt in verschillende scenario’s heeft veel te maken met waar je woont en dus de cultuur waar je onderdeel van uitmaakt.
West, Oost en Zuid kiezen anders
De verschillen tussen de landen op basis van de mensen die het onderzoek hebben ingevuld is vrij groot. De interactieve kaart laat je een land kiezen en daarnaast kijken of er verschillen zijn met een ander land. Blijkbaar zijn er in Venezuela ten opzichte van Nederland de grootste verschillen in opinie. Zo is de bereidheid om de status van een persoon mee te nemen daar vele male groter (92 procent vond dat belangrijk) dan bij ons, net zoals men het daar belangrijker vindt om vrouwen te sparen ten opzichte van ons. Nederlanders hechten dan weer veel meer waarde aan het in leven houden van mensen ten opzichte van dieren. Ook vinden we het vaak beter om niets te doen, terwijl men daar in elk geval íets wil doen, wat de uitkomst ook moge zijn. Zo zijn er allerlei aspecten die meegeteld worden, al is dat niet meteen duidelijk als je de test aan het doen bent.
Dat heeft dus alles te maken met waarden en normen: in Nederland en veel andere Westerse landen maakt het meer mensen uit of je de verkeersregels ook hebt opgevolgd, terwijl dat in de armere landen niet als heel belangrijk wordt gezien. De mate van ongelijkheid in een land is blijkbaar een goede indicator voor hoe belangrijk status wordt gezien bij het redden van levens. Hoe ongelijker, hoe meer mensen met status beschermd worden. In landen als Zweden is het dan weer precies andersom, en heb je als executive net zoveel kans als een dakloze om doodgereden te worden door een zelfrijdende auto.
Waar is iedereen het wel over eens?
Ondanks al die verschillen – waar hier nog wat dieper op wordt ingegaan – zijn er echter ook overeenkomsten. De meeste mensen zijn het er over eens dat een auto beter een mens kan sparen dan een dier, dat het beter is om twee mensen te laten overleven dan eentje en dat er bij een keuze tussen jong en oud moet worden gekozen voor de mensen die hun leven nog voor zich hebben. Daarna wordt het wat rommeliger, maar misschien is dat voor dit moment nog niet zo’n probleem.
De onderzoekers denken dat er uiteindelijk verschillende ethische programma’s moeten komen die de cultuur van de plek waar een auto rijdt meeneemt in de besluitvorming. Daar zitten ook wel wat haken en ogen aan (wat als ik met mijn ‘bij rood oversteken is vette pech, voetganger’ zelfrijdende auto uit Nederland bij een ongeluk betrokken raak terwijl ik naar Italië ben gereden?) maar het loopt vooral nog te ver voor de technologische mogelijkheden van zelfrijdende auto’s uit.
Kiezen zonder alle informatie
Als je ziet hoe zelfrijdende auto’s op dit moment de wereld zien is het nog niet in de buurt van de schematische voorbeelden die we in de test zien. Een auto kan niet zien wie er jong, oud, van hoge status of dik is en of er sprake is van katten of honden. Een auto ziet vormen of andere auto’s (met daarin een onbekend aantal passagiers) en moet dus op basis daarvan beslissingen gaan maken. Natuurlijk zou er een hele hoop van die informatie via een AI-systeem met beeldherkenning gedaan kunnen worden, maar die systemen redden het niet om in de enkele milliseconden die bij een storing of ongeluk zijn om een beslissing te nemen de nodige data aan te leveren. Een zelfrijdende auto moet een vaste set regels aan boord hebben die op elk moment in een flits gevolgd kunnen worden.
Dan is er weinig anders mogelijk dan simpelweg het recht van de meeste te kiezen: liever één persoon in de auto de berm in, dan twee personen aanrijden. Zo mogelijk tegen een andere auto of object aanknallen met een zo laag mogelijke kans op overlijden van de passagier(s). Er voor kiezen om niet de andere weggebruiker omver of aan te rijden, behalve misschien als die er niet had mogen zijn volgens de verkeersregels. Daar valt wel het een en ander over te beslissen, maar een groot gedeelte van de geavanceerde vragen die door dit onderzoek gesteld worden zijn misschien pas over 30 jaar relevant, als de technologie in zelfrijdende auto’s goed genoeg is om een weloverwogen beslissing te maken. Tot die tijd is het voornamelijk interessant om te zien wie wat waar in leven wil houden.
[Afbeeldingen © Burak K – Pexels]
Verder lezen over Technology
Technology15.07.2024
De Nijmeegse Vierdaagse start met een digitale vluchtstrook
Technology11.07.2024
Man dacht Iron Man te zijn maar zijn eigen EHBO faalt
Technology09.07.2024
De ruimte ruikt naar… rotte eieren?
Startups27.06.2024
In Brabant is het aantal startups met 22 procent toegenomen
Automotive07.06.2024
Formule 1-auto’s in 2026 worden kleiner en duurzamer
Technology07.05.2024
De slimste stad van Europa ligt straks in Griekenland
Technology10.04.2024
De maan krijgt zijn eigen Sint Bernards: robothonden
Technology09.04.2024
Gevonden voorwerpen: Androids gaan zoekgeraakte gadgets vinden
Verder lezen over Toekomst
Events04.07.2024
Dit was het VINT Symposium van 2024
met als thema 'Echt Slim'
Nieuws04.07.2024
Merganser: een Offshore Floating Solar platform in de Noordzee
Startups27.06.2024
In Brabant is het aantal startups met 22 procent toegenomen
Artificial Intelligence26.06.2024
Symposium ‘Artificial Intelligence’ door het Jeroen Bosch Ziekenhuis
Gadgets20.06.2024
De eerste legale E-step in Nederland: UrbMob Kick&Go
Technology13.06.2024
Terugleverkosten bij zonnepanelen: zo verminder je ze
Houd je energierekening laag
Technology11.06.2024
Industrie 5.0: Integratie van menselijke ethiek en machinale efficiëntie voor duurzame groei
Events30.05.2024
Smart Health-webinar: Acceptatie van AI door zorgverleners en zorgvragers
Verder lezen over Zelfrijdende auto
Automotive12.07.2024
Tesla stelt de aankondiging van zijn Robotaxi uit
Automotive20.06.2024
Zijn zelfrijdende auto’s inderdaad veiliger dan menselijke chauffeurs?
Automotive29.04.2024
Eerste race met zelfrijdende race-auto’s was uiterst vreemd
Automotive29.03.2024
Deze zelfrijdende auto kan ook autonoom driften
Automotive27.02.2024
Apple Car is niet meer: Apple stopt met eigen auto
Automotive09.01.2024
Waymo start autonoom rijden tests op snelwegen
Voorlopig alleen voor eigen medewerkers in en rond Phoenix
Automotive27.12.2023
Zelfrijdende auto’s op Britse wegen in 2026
Gefaseerde uitrol en er moeten ook nog wel wat juridische hordes genomen worden
Automotive16.11.2023