De Franse Grondwettelijke Raad heeft de inzet van een AI-gestuurd videobewakingssysteem tijdens de Olympische Spelen in Parijs volgend jaar goedgekeurd. Eerder gaf ook de Franse overheid zijn fiat, dik tegen de zin van privacy-activisten.
Groen licht: Het AI-aangestuurd videosysteem op de Olympische Spelen komt er.
- De Grondwettelijke Raad, die gestemde wetten aftoetst met de grondwet, is van oordeel dat de implementatie van het systeem perfect legaal is. Het schendt geen privacyrechten, aangezien er constant menselijk toezicht is op “de ontwikkeling, implementatie en mogelijke evolutie van algoritmische processen”.
Even schetsen: Het systeem leidde al tot heel wat discussie, maar raakte toch politiek goedgekeurd.
- In april keurde het Franse parlement namelijk de wet goed dat het experimenteren met AI-ondersteunde videosystemen, die op grote schaal en in real-time verdacht gedrag kunnen spotten, mogelijk maakt op de Olympische Spelen. Maar opvallend: het systeem mag tot maart 2025 blijven staan in de hoofdstad.
- Zoals de gewoonte is, moest de wet wel nog de Grondwettelijke Raad passeren. Dat lukte zonder probleem. In het besluit van het rechtsorgaan staat te lezen dat het systeem bedoeld is om “inbreuken tegen de openbare orde te voorkomen”. Verder zal het camerasysteem enkel worden ingezet tijdens sport-, recreationele of cultuur-evenementen, en zal geen gezichtsherkenning worden gebruikt.
- Verder moeten de autoriteiten ook kunnen bewijzen dat geen biometrische gegevens worden gebruikt, en dat de gegevens die de camera’s filmen en opslaan niet worden gelinkt aan al bestaande gegevensbanken. Ook moet duidelijk gemaakt worden wie toegang heeft tot de data, welke evenementen worden gemonitord, waar en voor hoe lang.
Fiasco van vorig jaar
De reden: Het systeem moet een herhaling van de Champions League-finale van vorig jaar voorkomen.
- Voor de wedstrijd in het Parijse Stade de France, tussen Liverpool en Real Madrid, raakte een groot aantal Liverpool-fans het stadion niet binnen, waardoor de wedstrijd een half uur werd uitgesteld. In de chaos die vervolgens uitbrak, probeerden supporters het stadion binnen te dringen door gebruik te maken van nepkaartjes of door over de hekken te klimmen.
- Het nieuwe camerasysteem kan dus dienen om dergelijke ‘dreigingen’ op te sporen. Privacy-activisten zijn echter bezorgd om de ‘collateral damage’ dat zo’n systeem met zich meebrengt, vooral met betrekking tot de privacy van bezoekers van de OS 2024.
Bezorgdheid: In maart publiceerden maatschappelijke organisaties in het land – waaronder La Quadrature du Net, Access Now en Amnesty International – een opiniestuk in Le Monde, waarin ze hun bezorgdheid uitten over een volgens hen “zorgwekkend precedent” dat Frankrijk in de EU zou kunnen scheppen. Volgens hen bestaat het gevaar dat de maatregelen permanent van kracht worden.
(evb)