Europa verbiedt ‘sociale scores’ gebaseerd op artificiële intelligentie

Olivier Hoslet, Pool via AP/Isopix

De Europese Unie legde woensdag een blauwdruk voor regelgeving rond het gebruik van artificiële intelligentie voor. Het ‘riskant gebruik’ van de technologie zoals het live scannen van gezichten en het berekenen van ‘sociale scores’ voor mensen zal streng verboden of gecontroleerd worden.

De aanzet tot de regelgeving van artificiële intelligentie (AI) bestaat uit verschillende pijlers die elk het ‘risicogehalte’ van de nieuwe technologie willen beperken. Daarbij wordt er vooral gekeken naar het beschermen van privacy. Er zou wel voldoende ruimte voor ‘innovatie’ overblijven, beweren de instanties.

Vooral AI-systemen die gebruikt kunnen worden in kantoren, scholen en voor het aanwerven van nieuwe werkkrachten werden grondig onder de loep genomen. AI-gebruik dat ‘te riskant’ zou zijn, zoals overheidssystemen die ‘sociale scores’ zouden uitdelen aan mensen, gebaseerd op hun gedrag in de maatschappij, zal strikt worden verboden, weet Associated Press.

Met het voorstel wil de EU voor de rest van de wereld een goed voorbeeld geven voor regelgeving omtrent AI. Of de EU daarmee China of de VS, die een pak verder staan op vlak van AI, zal kunnen inspireren is nog maar de vraag.

China is overigens al jaren van plan om zo’n systeem met AI-gestuurde ‘sociale scores’ te implementeren, maar loopt momenteel achter op die plannen. Burgers wiens gezicht herkend wordt tijdens het maken van bepaalde overtredingen zouden hun ‘score’ omlaag zien gaan en uiteindelijk minder toegang hebben tot openbare diensten en leningen.

Vestagers kruistocht tegen ‘Big Tech’

Het Europees Parlement en de Commissie zullen zich nu nog moeten buigen over de blauwdruk voor AI-regelgeving. Dit hele proces kan nog verschillende jaren in beslag nemen. Woordvoerders van de Europese bestuursorganen weigerden Associated Press te voorzien van een inschatting voor een tijdsspanne.

Margrethe Vestager, de eurocommissaris voor Digitale economie en samenleving, is alvast hoopvol over de regelgeving. ‘Deze wetgeving is een mijlpaal. De EU staat nu aan de leiding van de ontwikkeling voor nieuwe globale normen die zullen verzekeren dat AI te vertrouwen zal zijn’, zei Vestager woensdag in een persbericht. ‘Met deze nieuwe spelregels kunnen we de weg vrijmaken voor een wereldwijd ethisch gebruik van technologie, terwijl we de EU toch competitief houden’, klonk het nog.

Vestager is inderdaad een serieuze speler als het gaat om de regulering van indringerige technologie. De Deense politica zwaaide al jaren geleden verschillende keren met sancties naar Facebook voordat andere overheden in de wereld de macht van de Amerikaanse technologiereus nog maar in vraag stelden. Vestager was ook een sleutelfiguur achter de GDPR-regelgeving, die de wereld wel degelijk voorzag van een toonvoorbeeld op het vlak van data- en privacybescherming.

Er is wel nog veel werk aan de winkel voor Vestager en haar team in de beteugeling van ‘Big Tech’. Google blijft nog steeds de meest dominante speler met een quasimonopolie in de EU en de verschillende zaken tegen techreuzen over privacy blijven zich maar opstapelen. Daarbij moet de EU ook nog steeds haar wetgeving rond het gebruik van schadelijk materiaal en illegale handel op het internet eens bijwerken.

(lb)