De Europese Commissie heeft vandaag een nieuw plan onthuld om online platforms te verplichten om het delen van seksueel misbruik op het internet op te sporen en te melden. Het voorstel zou techbedrijven echter dwingen om actief privéberichten en content van gebruikers te scannen op beelden van mogelijk seksueel kindermisbruik. Deskundigen op het gebied van privacy zeggen dat de regelgeving tot een invasief toezichtregime in Europa zal leiden.

“We slagen er vandaag niet in om kinderen te beschermen”, zei eurocommissaris Ylva Johansson vandaag op een persconferentie. Ze noemde het plan baanbrekend en zal naar eigen zeggen van Europa een wereldleider maken in de strijd tegen seksueel misbruik van kinderen online. 

Volgens het nieuwe voorstel kunnen Europese landen van bedrijven als Meta en Apple eisen om uitgebreide surveillance-systemen in te voeren, waarmee kindermisbruik kan worden opgespoord. Het systeem moet berichten, foto’s en video’s van gebruikers scannen op mogelijk kindermisbruik, en in geval van een “hit” de politiediensten inschakelen. 

In het nieuwe plan wordt ook voorgesteld om gebruik te maken van kunstmatige intelligentie (AI), om in gesprekken taalpatronen op te sporen die verband houden met kinderlokkerij.  

Angstaanjagend document

“Dit document is het meest angstaanjagende dat ik ooit heb gezien”, stelt Matthew Green, hoogleraar cryptografie. “Het beschrijft de meest geavanceerde massasurveillance die ooit is ingezet buiten China en de USSR. Dat is niet overdreven”.

Jan Penfrat van de digitale belangengroep European Digital Rights is ook bezorgd. “Dit ziet eruit als een schandelijke algemene surveillancewet, die totaal ongeschikt is voor een vrije democratie”. 

End-to-end encryptie onmogelijk

Privacyexperts zeggen dat het voorstel ook end-to-end encryptie ernstig kan bedreigen. Het verplichten van bedrijven om alle benodigde software in hun systemen te installeren die de EU nodig acht om kindermisbruik te detecteren, maakt encryptie haast onmogelijk. Vanwege de invloed van de EU op het digitale beleid, zouden dezelfde maatregelen zich ook verder over de wereld kunnen verspreiden naar autoritaire staten.

“Als het voorstel in gebruik wordt genomen zou het een ramp zijn voor de privacy van gebruikers, niet alleen in de EU, maar over de hele wereld. Het argument van kindermisbruik wordt andermaal als smeermiddel gebruikt voor het doordrukken van deze invasieve regels”, aldus Joe Mullin, senior beleidsanalist bij de de Electronic Frontier Foundation. 

Niet alleen in landen als China en Rusland is digitale privacy een zaak van leven of dood, ook elders in de wereld zijn journalisten, activisten, klokkenluiders en critici ervan afhankelijk. 

Een goed voorbeeld is Rusland. Hoewel homoseksualiteit in het land kort na de val van de Sovjet-Unie uit het strafrecht werd gehaald, zijn homoseksuelen, lesbiennes, biseksuelen en transseksuelen vaak het slachtoffer van discriminatie van de overheid of gewelddadige confrontaties. Privacy is daardoor voor hen extreem belangrijk.

Onbetrouwbare spamfilters

Daarnaast is er ook kritiek op het plan van kunstmatige intelligentie, dat taalpatronen moet opsporen die verband houden met kinderlokkerij. Om deze te vinden zouden algoritmische scanners moeten worden gebruikt, die volgens deskundigen foutgevoelig kunnen zijn, waardoor onschuldige personen door hun overheid in de gaten worden gehouden.

“Je hoeft alleen maar te kijken naar hoe onbetrouwbaar spamfilters zijn. Ze worden al 20 jaar gebruik in onze e-mails, maar we krijgen ze nog steeds binnen. Dat toont echt de beperking van deze technologieën aan”, aldus Ella Jakubowska, beleidsadviseur bij de organisatie European Digital Rights, tegen The Verge.

Apple krabbelde terug

In het verleden was er ophef toen Apple iets soortgelijks voorstelde voor het vinden van kindermisbruik. Toen het bedrijf zijn plannen vorige zomer introduceerde krabbelde het na veel kritiek terug. Destijds zei de technologiereus dat het berichten zou gaan scannen van gebruikers jonger dan 17 jaar en hen waarschuwen als ze op het punt stonden “seksueel” materiaal te verzenden of ontvangen. 

Ook stelde het bedrijf voor om de inhoud van iCloud te scannen op bekend materiaal van kindermisbruik, om in het geval van een “hit” het National Center for Missing and Exploited Children te waarschuwen. Het plan is echter opgeschort na felle tegenstand van privacy-organisaties.

(lb)