Key takeaways

• De AI-wet van de Europese Unie verbiedt vanaf 2 februari bepaalde “onaanvaardbare” toepassingen van kunstmatige intelligentie.
• Activiteiten zoals het voorspellen van crimineel gedrag, het gebruiken van afbeeldingen van internet voor gezichtsherkenningsdatabases en het afleiden van iemands emoties uit biometrische gegevens zijn verboden.
• Regeringen hebben tot augustus de tijd om autoriteiten aan te wijzen die verantwoordelijk zijn voor het handhaven van de verboden.

Wat wordt er verboden door de nieuwe AI-wet? 

De AI-wet van de Europese Unie verbiedt vanaf 2 februari bepaalde “onaanvaardbare” toepassingen van kunstmatige intelligentie en schept daarmee een wereldwijd precedent in het reguleren van deze opkomende technologie. Critici beweren echter dat de wet belangrijke mazen bevat waardoor de Europese politie en migratie-autoriteiten AI kunnen gebruiken, waaronder gezichtsherkenningstechnologie voor beveiligingscamera’s, voor het opsporen van daders van ernstige misdrijven zoals terroristische aanslagen.

De wet verbiedt expliciet AI-toepassingen voor het voorspellen van crimineel gedrag, naast zeven andere categorieën van gebruik die onacceptabel worden geacht. Activiteiten zoals het gebruiken van afbeeldingen van het internet om gezichtsherkenningsdatabases op te bouwen of het afleiden van iemands emoties uit biometrische gegevens zijn ook verboden. Ondanks dat deze verboden aanstaande zondag van kracht worden, hebben overheden tot augustus de tijd om de autoriteiten aan te wijzen die verantwoordelijk zijn voor de handhaving ervan.

EU neemt voortouw in reguleren van AI

De AI-wet positioneert de EU als leider in het reguleren van opkomende technologieën, in tegenstelling tot andere regio’s waar minder vergelijkbare regels bestaan. Zo heeft de VS onder president Donald Trump een executive order over AI-veiligheid van zijn voorganger Joe Biden teruggedraaid.

Brando Benifei, een Italiaanse wetgever die een belangrijke rol speelde bij de onderhandelingen over de AI-wet, benadrukte dat de verboden bedoeld zijn om te voorkomen dat AI wordt gebruikt voor “maatschappelijke controle” of de “compressie van onze vrijheden”. Hij verklaarde dat het belangrijkste doel van deze verboden het beschermen van de Europese democratieën is. Het handhaven van deze regels zou echter een uitdaging kunnen zijn.

Europese politie- en migratie-autoriteiten maken al gebruik van verschillende AI-praktijken, waaronder realtime gezichtsherkenning in openbare ruimtes, en hebben zich verzekerd van talloze uitzonderingen binnen het wetboek om dit te kunnen blijven doen. Academici en activisten houden nauwlettend in de gaten hoe de wet zal worden geïmplementeerd en maken zich zorgen over de effectiviteit ervan. Nathalie Smuha, assistent-professor en onderzoeker op het gebied van AI-ethiek aan de universiteit van KU Leuven, vraagt zich af of er wel sprake is van een echt verbod, gezien de uitgebreide uitzonderingen.

Hoe is de AI-wet tot stand gekomen? 

Het concept van een algeheel verbod op bepaalde AI-toepassingen werd aanvankelijk niet overwogen toen de Europese Commissie haar experts in 2018 belastte met de ontwikkeling van een AI-strategie. Toen experts en ambtenaren echter de beperkingen van de bestaande wetgeving inzagen bij het aanpakken van specifieke praktijken, verschoof hun standpunt.

In april 2021 stelde het eerste ontwerp van de Commissie voor nieuwe AI-regels al voor om verschillende praktijken te verbieden, waaronder praktijken die het gedrag van een persoon manipuleren via subliminale technieken of kwetsbare groepen uitbuiten. Tijdens discussies met overheidsfunctionarissen in het Europees Parlement breidden de wetgevers deze lijst verder uit. De definitieve versie van de wet werd overeengekomen in december 2023.

Kim Van Sparrentak, een Nederlands EU-parlementslid voor GroenLinks, die betrokken was bij de onderhandelingen over de AI-wet, legde uit dat de verboden in drie categorieën vallen: bestaande praktijken die ongewenst worden geacht, praktijken die zijn verbeeld uit Hollywoodfilms of China, en opkomende bedreigingen. Een opmerkelijk geval dat van invloed was op het opstellen was een controverse in Nederland in 2019 waarbij de belastingdienst een algoritme gebruikte om fraude met kinderopvangtoeslag op te sporen, waardoor ongeveer 26.000 personen ten onrechte werden beschuldigd van fraude, meldt Politico.

Van Sparrentak benadrukte dat een rechtsstaat mensen niet voortdurend als potentiële criminelen kan behandelen. Op dezelfde manier komt het verbod op het gebruik van afbeeldingen van het internet voor gezichtsherkenning voort uit Clearview AI, een in de VS gevestigd bedrijf dat werd onderzocht voor het verzamelen van miljarden afbeeldingen in zijn database. De AI-wet verbiedt het gebruik van “AI-systemen die gezichtsherkenningsdatabases creëren of uitbreiden door middel van het ongericht schrapen van gezichtsafbeeldingen van het internet.”

China’s invloed

China’s sociale kredietsysteem, waarbij individuen worden gerangschikt op basis van hun gedrag, kan de inspiratie zijn geweest voor een aantal andere verboden. Voorvechters van digitale rechten benadrukten “ernstige mazen” in de wet, vooral met betrekking tot politie en migratie.

Ze stelden dat uitzonderingen voor wetshandhaving en migratie de effectiviteit van de wet ondermijnen. Ze wezen in het bijzonder op de vrijstelling die realtime gezichtsherkenning in openbare ruimtes toestaat, ondanks het algemene verbod op dergelijk gebruik. Hoewel wetshandhaving deze functie in principe niet meer zal kunnen uitvoeren, kunnen EU-landen nog steeds uitzonderingen toestaan, met name voor ernstige misdrijven.

Activisten waarschuwen dat deze uitzonderingen het gebruik van AI-leugendetectoren mogelijk kunnen maken, die gezichten scannen op tekenen van bedrog. Van Sparrentak onthulde dat deze uitzonderingen een belangrijk knelpunt waren tijdens de onderhandelingen, wat leidde tot 36 uur van intensieve discussies. Ze verklaarde dat de EU-regeringen sterk aandrongen op het behoud van deze hulpmiddelen.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!