Singapore introduceert gezichtsherkenning voor officiële identificatie. Maar de technologie roept ook weerstand op. Wetenschappers aan de University of Chicago werken aan een technologie die een identificatie aan de hand van digitale beelden kan bemoeilijken of onmogelijk maken.
Gezichtsherkenning is een bijzonder controversieel concept. De technologie kan het publiek aanzienlijke baten opleveren, maar biedt tegelijkertijd ook veel mogelijkheden tot misbruik. Zowel overheden als bedrijven kunnen de algoritmes voor gezichtsherkenning voor hun eigen ambities – ten koste van de privacy – inzetten.
Singapore
Singapore wordt het eerste land in de wereld dat gezichtsherkenning zal inschakelen in zijn nationale identificatiesysteem. Vanaf volgend jaar kunnen miljoenen inwoners van de Aziatische stadstaat met een snelle gezichtsscan toegang krijgen tot overheidsinstanties, bankdiensten en andere voorzieningen.
‘Deze biometrische controle maakt bij de uitvoering van veel alledaagse taken het onthouden van wachtwoorden of andere veiligheidsprocedures overbodig,’ zeggen de ontwikkelaars van de technologie. De onderzoekers wijzen onder meer op de uitvoering van elektronische betalingen of het gebruik van zelfrijdende huurwagens.
Gezichtsherkenning is niet nieuw en wordt al in de hele wereld toegepast. Bedrijven zoals Apple of Google maken van de technologie gebruik om mobiele telefoons te ontgrendelen of de uitvoering van betalingen. Op luchthavens wordt gezichtsherkenning ingezet bij de veiligheidscontroles van reizigers. Singapore is echter het eerste land in de wereld dat gezichtsherkenning aan een nationale identificatie-database koppelt.
De technologie legt een reeks foto’s van een gelaat vast in verschillende lichtomstandigheden. Deze afbeeldingen worden gekoppeld aan andere gegevens die al beschikbaar zijn voor de overheid, zoals nationale identiteitskaarten, paspoorten en arbeidskaarten.
De technologie waarborgt dat de identificatie door een echte persoon gebeurt en geen onderwerp van bedrog – door een inzet van een portret of een video – is. Ze wordt momenteel bij een aantal overheidsdiensten geïmplementeerd. Ook particuliere bedrijven kunnen zich bij het initiatief aansluiten.
Terugvechten
Gezichtsherkenning blijft echter controversieel. De technologie roept immers heel wat ethische vragen op. Overheidsdiensten kunnen de technologie onder meer gebruiken om bij grote evenementen op zoek te gaan naar potentiële onruststokers. In Singapore waarschuwen critici dat de gezichtsherkenning zou kunnen worden ingezet tegen opposanten van de regering.
Aan de Universiteit van Chicago heeft een groep computerwetenschappers echter het programma Fawkes ontwikkeld om de gevaren van gezichtsherkenning te helpen bestrijden. ‘Het individu geniet slechts weinig beveiliging tegen het gebruik van zijn digitale afbeeldingen,’ zeggen de onderzoekers Emily Wenger en Shawn Shan.
‘De enige beschermingsmaatregel die een persoon kan nemen, is ervoor te zorgen dat er geen foto’s van zijn of haar gezicht digitaal circuleren. Fawkes biedt hier echter een mogelijk antwoord. De technologie kan immers ook nog hulp bieden wanneer er over een persoon al ontelbare foto’s digitaal beschikbaar zijn geraakt.’
Fawkes lukt er volgens Wenger en Shan in om de algoritmes van de gezichtsherkenning om de tuin te leiden. De technologie brengt aan de foto’s een aantal veranderingen – compleet onzichtbaar voor het menselijk oog – aan die de algoritmes in de war brengen. Een positieve identificatie zou daardoor onmogelijk worden.
Getallen
Het programma bouwt verder op het gegeven dat machines beelden anders zien dan mensen. Voor een machine zijn afbeeldingen louter getallen die elk een pixel vertegenwoordigen. De specifieke configuratie van die getallen laat toe om tot een identificatie over te gaan.
Fawkes brengt echter in die rangschikking van getallen enkele subtiele wijzigingen aan. Daardoor is het algoritme niet meer in staat het individu te herkennen en te vereenzelvigen met beelden die eventueel al in zijn database zijn opgeslagen. Voor een menselijke waarnemer lijkt het beeld echter compleet onveranderd te zijn gebleven.
‘Tests met algoritmes wezen uit dat Fawkes in staat is om een herkenning compleet onmogelijk te maken,’ zeggen Wenger en Shan. ‘De technologie boekte bij die tests scores van bijna 100 procent.’
Opmerkelijk is dat Fawkes ook efficiënt blijft wanneer van een individu vooraf al ontelbare digitale beelden zijn verspreid. De technologie zal immers bewerkte foto’s aan de databases van de gezichtsherkenning toevoegen en daar in toenemende mate verwarring creëren.
Eens er voldoende gecamoufleerde beelden circuleren, raken de algoritmes besluiteloos en verlamd. ‘Fawkes kan de algoritmes met verstoren, maar is wel in staat om door de publicatie van gecamoufleerde afbeeldingen uiteindelijk de online voetafdruk van een individu te wissen,’ betogen Wenger en Shan.
‘Personen waarvan grote hoeveelheid digitale beelden circuleren, kunnen zich tegen misbruik eigenlijk best beschermen door nog veel grotere hoeveelheden beeldmateriaal, met behulp van Fawkes bewerkt, online te plaatsen.’
De wetenschappers wijzen er daarbij op dat Fawkes gericht is tegen het ongeoorloofd gebruik van persoonlijke afbeeldingen en geen effect heeft op modellen die zijn gebouwd met behulp van legitiem verkregen afbeeldingen.
‘We maken ons geen illusie dat Fawkes alle schendingen van de privacy zal oplossen,’ benadrukken de onderzoekers. ‘Er zijn bovendien waarschijnlijk ook zowel technische als juridische oplossingen om het misbruik terug te dringen. Fawkes wil echter het individu de mogelijkheid geven om zelf terug te vechten.’
‘Uiteraard zullen ontwikkelaars van software voor gezichtsherkenning zich aan hinderlijke technologieën zoals Fawkes proberen aan te passen,’ zeggen Wenger en Shan. ‘Ze zullen ongetwijfeld de impact van Fawkes proberen te elimineren.’
‘Maar zelfs indien ze in hun opzet lukken, zal Fawkes een technische hindernis blijven die gezichtsherkenning zonder toestemming van de gebruiker moeilijker en duurder maakt. Daardoor kan de balans van het machtsevenwicht weer een beetje meer naar het publiek overhellen.’
Fawkes is genoemd naar het beroemde masker dat protestbewegingen zoals Anonymous of Occupy gebruiken. Het programma wordt door de ontwikkelaars beschikbaar gesteld als software voor personal computers en andere digitale apparaten. Wenger en Shan hopen tevens dat sociale media en andere platformen de technologie als een optie aan hun gebruikers zouden aanbieden.
