De Europese Commissie lanceert een publiek debat over het gebruik door ordehandhavers van gezichtsherkenning. De oproep past in de bredere plannen rond artificiële intelligentie die woensdag gepresenteerd werden.

Hoe ver mogen de autoriteiten gaan bij het inzetten van artificiële intelligentie en gezichtsherkenning, bijvoorbeeld bij de bewaking van voetbalstadions? Ursula von der Leyen, voorzitter van de Europese Commissie, wil Europese regelgeving over de kwestie uitwerken en publiceert in een witboek enkele voorstellen.

Vandaag is het gebruik van gezichtsherkenning voor biometrische identificatie op afstand over het algemeen verboden, en alleen in uitzonderingsgevallen toegestaan door de nationale of EU-wetgever. Het privacy-argument wordt daarbij afgewogen tegenover het algemene belang of veiligheidsoverwegingen.

Von der Leyen wil daar meer lijn in krijgen. ‘De Commissie wil een breed debat starten over de omstandigheden waaronder dergelijke uitzonderingen in de toekomst eventueel zouden kunnen worden gemaakt’, zegt de Europese Commissie in erg voorzichtige bewoordingen.

Controle op algoritmes

Het is maar een van de vele maatschappelijke vragen door de opkomst van artificiële intelligentie. Von der Leyen pleit voor specifieke strenge regelgeving als het gaat om risicovolle domeinen, zoals zorg, politie en vervoer. Denk aan chirurgische operaties met behulp van AI, of onbedoelde discriminatie wanneer de politie in een databank algoritmes laat draaien om criminelen te vatten.

‘In die gevallen moeten AI-systemen transparant en traceerbaar zijn en door mensen controleerbaar zijn’, zegt de Commissie. Kortom: geen ‘black box’-algoritmes waar de samenleving geen zicht op heeft. ‘Autoriteiten moeten de door algoritmes gebruikte data kunnen controleren en certificeren, zoals zij dat doen met cosmetica, auto’s en speelgoed.’