Hoe algoritmes onze levens beheersen

Aan algoritmes die allerlei zaken voor ons bepalen, valt in onze gedigitaliseerde wereld niet te ontkomen. Het bekendste voorbeeld zijn de algoritmes van Facebook, Google en YouTube, die bepalen wat wij te zien krijgen en welke aanbevelingen we krijgen. Ook de toeslagenaffaire ging mis op algoritmes. Hoe worden zaken voor ons bepaald? En kun je deze algoritmes ontduiken of temmen?

Als we Wikipedia erbij pakken voor de definitie van een algoritme, dan vertelt de encyclopedie ons: ‘Een algoritme is een recept om een wiskundig of informaticaprobleem op te lossen. Wiskundig geformuleerd is het een eindige reeks instructies die vanuit een gegeven begintoestand naar een beoogd doel leidt.’

Marit Hoefsloot, master student Philosophy of Science, Technology and Society bij UTwente en werkzaam bij het Future Lab Waag in Amsterdam weet het net even helderder uit te leggen: “Een algoritme is simpel gezegd een stappenplan. Hoewel je ook een recept al een algoritme kunt noemen, wordt het woord voornamelijk gebruikt voor stappenplannen voor het uitvoeren van wiskundige berekeningen.”

Wiskundige Hannah Fry noemt in haar boek ‘Algoritmes aan de macht’ vier functies van algoritmes: prioriteren, classificeren, associëren en filteren. Hoefsloot vult dit graag aan met een vijfde functie: identificeren. Hierbij noemt ze het praktijkvoorbeeld van gezichtsherkenning om je smartphone te ontgrendelen, waar bewegend beeldmateriaal vergeleken wordt met een opgeslagen plaatje van jouw gezicht, met het doel om je identiteit vast te stellen.

Alledaagse algoritmes

Algoritmes komen natuurlijk veelvuldig voor in de digitale wereld en zitten ingebakken in de meest basale functies die we gebruiken. Hoefsloot geeft hierbij het voorbeeld van de zoekfunctie in pdf-documenten (classificeren): “Ik kan mijn leven nauwelijks voorstellen zonder zoekfuncties!”

De bekendste voorbeelden van manieren waarop we in aanraking komen met algoritmes in de digitale wereld, zijn de algoritmes van Facebook en Google. Het sociale netwerk gebruikt deze om een tijdlijn samen te stellen met inhoud die je maximaal prikkelt. Googles algoritmes bepalen (prioriteren) de zoekresultaten die op jou afgestemd zijn en YouTube-videosuggesties die jou moeten verleiden.

Deze algoritmes lijken een vrij onschuldig middel om een commercieel doel te verwezenlijken: jouw aandacht vasthouden om meer advertentie-inkomsten te werven en nóg meer data te verzamelen om de algoritmeformules te voeden. Toch kunnen de algoritmes minder onschuldige gevolgen hebben en zelfs samenleving ontwrichtende gevolgen hebben.

Algoritmes in de praktijk

Eigenlijk bij alles waar een computer aan te pas komt, komen algoritmes om de hoek kijken. Supermarktketen Albert Heijn kent persoonlijke aanbiedingen, die koopgedrag combineert met meerdere variabelen om je met op jouw gerichte voordeeltjes naar de winkel te lokken. Dating apps als Tinder gebruiken algoritmes die bepalen hoe vaak je profiel getoond wordt en aan wie.

Zo’n bedrijf heeft er immers niks aan als je na één onbetaalde swipe de liefde van je leven tegenkomt. Ingewikkelder wordt het als we kijken naar zelfrijdende auto’s. Hier vertrouwen we op algoritmes die binnen een fractie van een seconde soms heftige ethische kwesties oplossen. Prioriteer je bij een mogelijke aanrijding inzittenden of voetgangers? Wijk je bij een onverwacht overstekende hond wel of niet uit richting de kat die op de stoep zit?

Toeslagenaffaire

Om een goed voorbeeld te noemen van de ingrijpende gevolgen waar zwaar leunen op algoritmes toe kunnen leiden, hoeven we niet alleen naar techgiganten te kijken.

De toeslagenaffaire, die leidde tot grote (financiële) problemen bij slachtoffers en de val van het kabinet-Rutte III, kwam voort uit algoritmes. Mensen werden onterecht gekort op hun toeslagen. De wiskundige formule waarmee het algoritme werd bepaald, woog verschillende factoren mee. Dubbele nationaliteit? Een specifieke etnische achtergrond? Het werd allemaal als risicofactor aangemerkt voor mogelijke fraude in het algoritme. Waren er te veel risicofactoren aangevinkt? Dan werden op basis daarvan mensen (vaak onterecht) gekort. Met alle gevolgen van dien.

Algoritmes bij Google-zoekresultaten

Je zou denken dat zoekmachines neutraal zijn en iedereen dezelfde zoekresultaten voorschotelen. Dat is bij Google absoluut niet het geval. Zoekresultaten worden beïnvloed op basis van verzamelde gegevens van Google. Niet alleen in de vorm van gepersonaliseerde zoekresultaten, die je overigens in de zoekinstellingen kunt uitschakelen, maar ook algemener. Afhankelijk van je locatie, zoals het land waar je je bevindt, worden zoekresultaten anders weergegeven. Bijvoorbeeld om de zoekresultaten van pagina’s in een gangbare taal weer te geven, maar ook voor lokaal gevoelige onderwerpen.

De algoritmes die bepalen wat Google jou toont, zijn een groot geheim en geven Google enorm veel macht om te bepalen waar jij, of een hele bevolkingsgroep, mee geconfronteerd mag worden. In potentie kan hiermee publieke opinie worden beïnvloed, wat vanuit democratisch oogpunt onwenselijk is. Niet Google, maar Facebook – dat eveneens bepaalt wat jij te zien krijgt – is (en wordt) regelmatig misbruikt om publieke opinie en zelfs verkiezingen te manipuleren: het recente Cambridge Analytica-schandaal is hier een voorbeeld van.

Lees ook:

Meer
Lees meer...
Markten
BEL20