“In 2015 werd een onderzoek gedaan waarbij deelnemers een hypothetisch scenario kregen voorgeschoteld. Ze zaten in een autonome wagen die op het punt stond verschillende voetgangers omver te rijden. Voor de meeste deelnemers kon er weinig twijfel zijn. In zulk geval moest de autonome wagen tegen elke prijs de voetgangers redden, zelfs als dat de eigenaar van de zelfrijdende wagen het leven zou kosten. Maar toen ze de vraag kregen of ze zelf bereid waren een auto te kopen die de eigenaar zou opofferen voor het grotere goed (en de voetgangers zou redden), antwoordden ze negatief. Ze waren meer geïnteresseerd in een wagen die hen het leven zou redden.”

Het trolley-probleem

Bovenvermelde passage komt uit het boek ’21 vragen voor de 21ste eeuw‘ van de Israëlische denker-filosoof Yuval Noah Harari. De passage heeft betrekking op het zogenaamde ‘trolley-probleem’. De vraag is wanneer het noodlot dan toch toeslaat, hoe zo’n wagen dan zal beslissen wie moet sterven en wie mag blijven leven?

De onderzoekers denken dat democratie kan helpen. Ze ontwikkelden een gegevensbank waarin 1,3 miljoen mensen hun mening moesten geven over 13 mogelijkheden bij potentieel dodelijke ongevallenscenario’s. Ze schrijven: 

“ Dankzij de artificiële intelligentie is nu een systeem ontwikkeld  waarbij telkens een ‘trolley-probleem” zich voordoet de computer ogenblikkelijk het vaakst voorkomende antwoord kiest dat door de 1,3 miljoen mensen werd opgegeven. Uiteraard zal het systeem verder worden verrijkt met nieuwe vragen en bijkomende antwoorden.”

Volgens de onderzoekers is het systeem nog niet klaar, maar is er sprake van een concept dat artificiële intelligentie en democratie op een ethische manier combineert.

Tesla Egoïst of Tesla Altruïst?

Maar is dat wel zo? Want een finale oplossing voor dit probleem is er in de verste verte nog niet.  Zal Tesla twee modellen produceren? De Tesla Egoïst, die tegen elke prijs het leven van de eigenaar boven dat van alle anderen stelt. En de Tesla Altruïst, die de eigenaar opoffert om bijvoorbeeld 2 overstekende kinderen het leven te redden?  Klanten kunnen zich dan de wagen aanschaffen die bij hun filosofische overtuiging past. Indien de wegen dichtslibben met modellen Egoïst is dat dan niet de fout van Tesla of Elon Musk. Dat de klant altijd gelijk heeft is immers niets meer dan een courant commercieel gezegde, bedacht door Harry Gordon Selfridge, van het gelijknamige Britse warenhuis.

Een verscheurende keuze

Maar zal u dan bij de aankoop van uw Tesla in het menu ‘Instellingen’ een vakje moeten aanvinken? Om een keuze te maken tussen ‘Anderen redden in geval van dodelijk gevaar’ of te kiezen voor de optie ‘Eigen familie redden en anderen doden’? Een verscheurende keuze…

Misschien moet de overheid hier tussenkomen en een ethische code vastleggen voor alle zelfrijdende wagens, vraagt Harari zich af. Sommige politici zullen zulke overheidsinterventie aanmoedigen, terwijl het nooit vertoond en totalitair karakter ervan anderen zal afschrikken.

Maar moeten we echt op de mening van politici en rechtsgeleerden rekenen om dit soort vragen te beantwoorden?  Harari wijst in dat verband op wetten tegen homoseksualiteit en godslastering, die men gelukkig slechts gedeeltelijk kon afdwingen en stilaan tot het verleden behoren. Die wetten bewezen enkel de vooroordelen, vergissingen en uitspattingen van politici, die net als ieder ander fouten maken.