De bevoegde commissies van het Europees Parlement stemmen vandaag over ’s werelds eerste wet inzake artificiële intelligentie, de zogeheten AI-act. Een nieuwe stap richting regulering, maar draait de wetgevende molen wel snel genoeg om de exponentiële groei van fenomenen als ChatGPT bij te benen?
Op de agenda: In het Europees Parlement stemmen de commissies IMCO (interne markt en consumentenbescherming) en LIBE (burgerrechten) over een ontwerp van de AI Act. Dat volgt op onderhandelingen over een consensustekst, dus de verwachting is dat de tekst goedgekeurd wordt.
Het bredere plaatje: De Europese Commissie lanceerde eind vorig jaar een eerste worp, deze stemming is een volgende stap richting een definitieve goedkeuring door het hele Europees Parlement en uiteindelijk de lidstaten.
“ChatGPT is topje van de ijsberg”
De inzet: “Door de lancering van ChatGPT is AI hoger op de politieke agenda komen te staan en uit de hele wereld klinkt de roep om regulering van AI”, schetst adjunct-directeur Ursula Pachl van consumentenorganisatie BEUC de context.
“De EU zal het eerste rechtsgebied ter wereld zijn dat deze technologieën wettelijk regelt en zij kan het zich niet veroorloven het fout te doen. Consumenten beginnen nu pas te begrijpen hoe deze systemen hun dagelijkse leven zullen beïnvloeden. ChatGPT is slechts het topje van de ijsberg.”
Wat kan veranderen: De meest fundamentele ingreep wordt dat de Europese regelgevers van AI-bedrijven zullen eisen om, indien daartoe gevraagd, de werking van hun algoritmes transparant te maken: welke data dient als basis, welke criteria gebruiken ze en hoe zitten de zelflerende mechanismen in elkaar? Bedrijven die geen transparantie geven, kunnen boetes krijgen.
Dat is bijvoorbeeld van belang mocht pakweg de kandidatenselectie voor een openstaande vacature of de toekenning van een woonkrediet of een verzekering straks op basis van AI gebeuren. Regulering moet vermijden dat bij geautomatiseerde beslissingen, bewust of onbewust, bepaalde vooroordelen meespelen.
Gezichtsherkenning
Nog een heikele kwestie: Er lijkt consensus dat gezichtsherkenning in de publieke ruimte te intrusief is. Maar wat met systemen in private omgevingen, bijvoorbeeld AI-scanners in winkels om consumenten te identificeren? Het laatste woord daarover lijkt nog niet gezegd.
De grote vraag: komt de regulering nog op tijd? Een goedkeuring door de parlementscommissie is een belangrijke stap, maar slechts een van de hordes naar een definitieve Europese regelgeving. Volgens sommige experts zijn de teksten al achterhaald.
“We zijn verontrust over de snelheid waarmee ChatGPT en soortgelijke systemen uitgerold en in gebruik genomen worden, en het bijbehorende gebrek aan consumentenbescherming, terwijl de AI-wet nog jaren op zich zal laten wachten”, zegt ook consumentenkoepel BEUC.
(nd)
