Uit een globaal onderzoek blijkt dat verschillende culturen er verschillende meningen op na houden over wie moet sterven en wie mag leven wanneer een zelfrijdende wagen een fataal ongeluk heeft.
Het ’trolley-probleem’
Autonome wagens zullen de grote aantallen mensen die jaarlijks in het verkeer het leven laten aanzienlijk verminderen. Toch zullen dodelijke ongevallen onvermijdelijk blijven. Vraag is wanneer het noodlot dan toch toeslaat, hoe zo’n wagen dan zal beslissen wie moet sterven en wie mag blijven leven. Dat debat wordt ook wel eens het ‘trolley-probleem’ genoemd.
Onderzoekers aan 2 bekende universiteiten (Carnegie Mellon en het MIT) stelden in 2014 na grondig onderzoek een model voor waarbij gebruik wordt gemaakt van artificiële intelligentie en van crowdsourcing om ethische beslissingen in zelfrijdende wagens te automatiseren.
Democratie kan helpen
De onderzoekers gingen er van uit dat democratie kon helpen. Ze ontwikkelden een gegevensbank waarin 1,3 miljoen mensen hun mening moesten geven over 13 mogelijkheden bij potentieel dodelijke ongevallenscenario’s.
Dankzij artificiële intelligentie werd een systeem ontwikkeld waarbij telkens een ‘trolley-probleem” zich voordoet de computer ogenblikkelijk het vaakst voorkomende antwoord kiest dat door de 1,3 miljoen mensen werd opgegeven.
Het systeem moet wel continu verrijkt worden met nieuwe vragen en bijkomende antwoorden. De onderzoekers vroegen daarom aan nog eens 2,3 miljoen mensen uit verschillende culturen hoe ze verschillende variabelen inschatten en wat de impact van de ethiek op hun antwoorden was. De onderzoekers wilden met andere woorden weten of het belangrijker is dat jongeren crashes overleven dan ouderen, of rijke mensen voorrang moeten krijgen op arme mensen en of automobilisten die de verkeersregels naleven de voorkeur moeten krijgen op voetgangers die oversteken wanneer het voetgangerslicht op rood staat.
Nieuwe resultaten zorgen voor nog meer verwarring
De resultaten zorgen nu voor meer verwarring dan er al bestond. Zo wordt niet duidelijk of baby’s voorrang moeten krijgen op grootmoeders en passagiers op voetgangers.
De antwoorden verschillen ook sterk naargelang de cultuur tot dewelke men behoort. Individualistische culturen als Frankrijk, de VS en het VK vinden dat jongeren voorrang moeten krijgen, terwijl collectivistische culturen, zoals Japan en China, net de voorkeur geven aan ouderen.
In landen met sterke overheidsinstellingen (Japan, Finland) konden mensen die de straat oversteken wanneer het voetgangerslicht op rood staat op minder overlevingskansen rekenen dan landen waar de overheid weinig respect afdwingt (Nigeria, Pakistan).
Chinezen willen passagiers redden, Japanners voetgangers…
Maar sommige uitslagen zijn moeilijker uit te leggen. Chinezen namen het eerder voor passagiers op en hadden er vrede mee dat voetgangers zouden omkomen. In Japan kwam men tot exact de tegenovergestelde conclusie.
Een aantal resultaten is onmogelijk mis te verstaan: in alle culturen vindt men dat mensen voorrang moeten krijgen op dieren. Ook werden een aantal suggesties – zoals het redden van rijke mensen eerder dan armen – in alle landen onacceptabel gevonden.
Maar autoproducenten die consistente codes willen schrijven krijgen nu toch een reeks problemen voorgeschoteld. Die moeten nu gaan beslissen ze in China auto’s gaan verkopen die bij fatale ongelukken trachten passagiers te redden, terwijl diezelfde wagens in Japan voetgangers moeten gaan beschermen.