Wie komt er om het leven door een zelfrijdende auto? Machine, red zoveel mogelijk mensen, maar vooral mij!

Als zich een situatie voordoet waarin het autonome systeem van een auto snel moet kiezen wie het moet opofferen bij een dreigend ongeval, hoe moet het dan reageren? Passagiers opofferen om voetgangers te redden? Indien nodig een voetganger doden om bijvoorbeeld een gezin van vier personen in een auto te sparen? Of misschien moet hij altijd eerst zichzelf beschermen?

Nu er alleen al in Californië al ruim zestig bedrijven zijn goedgekeurd voor persoonlijke tests, is het moeilijk te zeggen dat de sector zich voorbereidt op ethische dilemma's. Voorlopig worstelt het met meer fundamentele problemen: de werking en navigatie-efficiëntie van systemen en het simpelweg vermijden van botsingen en onverwachte gebeurtenissen. In situaties zoals de recente dood van een voetganger in Arizona of daaropvolgende ongelukken (1) ging de discussie tot nu toe eenvoudigweg over systeemfouten, en niet over een ‘ethische keuze’ voor de auto.

Red de rijken en jongeren

De problemen die bij het nemen van dit soort beslissingen betrokken zijn, zijn geen abstracte problemen. Elke ervaren chauffeur kan dit beamen. Vorig jaar analyseerden wetenschappers van het MIT Media Lab meer dan veertig miljoen reacties van respondenten van over de hele wereld, die ze verzamelden tijdens onderzoek dat in 2014 werd gestart. Het enquêtesysteem dat ze de ‘Ethische Machine’ noemden, liet zien dat soortgelijke vragen worden gesteld in verschillende delen van de wereld. de wereld, verschillende antwoorden.

De meest algemene conclusies zijn voorspelbaar. In extreme situaties mensen geven de voorkeur aan het redden van mensen boven het zorgen voor dieren, met als doel zoveel mogelijk levens te redden, en zijn doorgaans jonger dan ouderen (2). Er zijn ook enkele, maar minder duidelijke, voorkeuren als het gaat om het redden van vrouwen boven mannen, mensen met een hogere status boven armere mensen, en voetgangers boven autopassagiers..

2. Wie moet de machine redden?

Aangezien bijna een half miljoen respondenten demografische vragenlijsten invulden, was het mogelijk om hun voorkeuren te correleren met leeftijd, geslacht en religieuze overtuigingen. De onderzoekers concludeerden dat deze verschillen de beslissingen van mensen niet "aanzienlijk beïnvloedden", maar merkten enkele culturele invloeden op. Zo waren de Fransen geneigd beslissingen af ​​te wegen op basis van het geschatte aantal doden, terwijl in Japan de nadruk het minst lag. In het Land van de Rijzende Zon wordt het leven van ouderen echter veel meer gewaardeerd dan in het Westen.

"Voordat we onze auto's hun eigen ethische beslissingen laten nemen, moeten we hierover een wereldwijd debat voeren. Wanneer bedrijven die aan autonome systemen werken onze voorkeuren leren kennen, dan zullen ze op basis daarvan ethische algoritmen in machines ontwikkelen en kunnen politici beginnen met het invoeren van adequate wettelijke voorzieningen', schreven de wetenschappers in oktober 2018 in Nature.

Een van de onderzoekers die betrokken was bij het Moral Machine-experiment, Jean-François Bonnefon, vond de voorkeur voor het redden van mensen met een hogere status (zoals leidinggevenden in plaats van daklozen) verontrustend. Volgens hem heeft dit er veel mee te maken niveau van economische ongelijkheid in een bepaald land. Waar de ongelijkheid groter was, werden offers gebracht aan de armen en daklozen.

Uit een eerder onderzoek bleek met name dat respondenten van mening waren dat een autonome auto zoveel mogelijk mensen zou moeten beschermen, zelfs als dit zou betekenen dat er passagiers verloren zouden gaan. Respondenten gaven echter aan dat zij geen auto zouden kopen die op deze manier geprogrammeerd is. De onderzoekers legden dat uit Hoewel mensen vinden dat het ethischer is om meer mensen te redden, worden ze ook gemotiveerd door hun eigenbelang, wat voor fabrikanten een signaal kan zijn dat klanten terughoudend zullen zijn om auto's te kopen die zijn uitgerust met altruïstische systemen.. Enige tijd geleden zeiden vertegenwoordigers van Mercedes-Benz dat als hun systeem maar één persoon zou redden, ze de bestuurder zouden kiezen in plaats van de voetganger. Een golf van publiek protest dwong het bedrijf zijn verklaring in te trekken. Maar uit onderzoek blijkt duidelijk dat er in deze heilige verontwaardiging veel hypocrisie schuilde.

In sommige landen gebeurt dit al eerste pogingen tot wettelijke regulering op veld. Duitsland heeft een wet aangenomen die auto’s zonder bestuurder verplicht om koste wat kost letsel of overlijden te voorkomen. De wet stelt ook dat algoritmen nooit beslissingen mogen nemen op basis van kenmerken als leeftijd, geslacht, gezondheid of voetgangers.

Audi neemt de leiding

De ontwerper kan niet alle gevolgen van het gebruik van de auto voorspellen. De werkelijkheid kan altijd een combinatie van variabelen opleveren die nog nooit eerder zijn getest. Dit ondermijnt ons geloof in de mogelijkheid om een ​​machine überhaupt ‘ethisch te programmeren’. Het lijkt ons dat in situaties waarin zich een fout voordoet en er zich een tragedie voordoet “als gevolg van de fout van de auto”, de fabrikant en ontwikkelaar van het systeem de verantwoordelijkheid moeten dragen.

Misschien is deze redenering juist, maar misschien niet omdat ze verkeerd was. Integendeel, omdat een beweging werd toegestaan ​​die niet 2019% vrij was van de mogelijkheid van haar commissie. Dit lijkt de reden te zijn, en de algehele verantwoordelijkheid wordt niet ontweken door het bedrijf, dat onlangs aankondigde de verantwoordelijkheid op zich te nemen voor ongevallen met de 8 jaar oude A3 wanneer het gebruik maakte van het automatische Traffic Jam Pilot-systeem.

3. Audi Traffic Jam Pilot-interface

Aan de andere kant zijn er miljoenen mensen die autorijden en ook fouten maken. Dus waarom zouden machines, die statistisch gezien veel minder fouten maken dan mensen, zoals blijkt uit talloze fouten, in dit opzicht gediscrimineerd moeten worden?

Als iemand denkt dat de dilemma's van ethiek en verantwoordelijkheid in de wereld van autonome voertuigen eenvoudig zijn, blijf dan denken...