Key takeaways
- De kindercommissaris eist een volledig verbod op AI-apps voor “naaktheid”.
- De huidige aanpak van de overheid wordt bekritiseerd als onvoldoende, waardoor deze apps ongecontroleerd hun gang kunnen gaan met mogelijk verwoestende gevolgen voor kinderen.
- De Internet Watch Foundation is getuige geweest van een toename van 380 procent in het aantal meldingen van door AI gegenereerde beelden van seksueel kindermisbruik.
De kindercommissaris voor Engeland eist een volledig verbod op toepassingen van kunstmatige intelligentie (AI) die seksueel suggestieve beelden van minderjarigen genereren. Dat meldt de Britse BBC. Dame Rachel de Souza stelt dat deze “nudificatie”-apps, die AI gebruiken om foto’s te veranderen en mensen naakt af te beelden, een aanzienlijke bedreiging vormen en onmiddellijke actie van de overheid vereisen. Ze bekritiseert de huidige aanpak van de overheid als ontoereikend en stelt dat deze apps ongecontroleerd hun gang kunnen gaan, met mogelijk verwoestende gevolgen voor kinderen. Hoewel de regering erkent dat materiaal over seksueel misbruik van kinderen illegaal is en verdere wetgeving plant om AI-tools aan te pakken die ontworpen zijn om dergelijke inhoud te creëren, vindt Dame de Souza dat dit niet ver genoeg gaat.
- Ze pleit voor een volledig verbod op “nudificerende” apps, ongeacht hun classificatie als makers van seksueel misbruik van kinderen.
Verband met stijgend aantal meldingen kindermisbruik
De bezorgdheid van de commissaris wordt herhaald door de Internet Watch Foundation (IWF), die in 2024 een duizelingwekkende toename van 380 procent in het aantal meldingen van door AI gegenereerde beelden van seksueel kindermisbruik heeft gezien, vergeleken met het jaar daarvoor. Deze alarmerende trend benadrukt de dringende noodzaak om in te grijpen.
Dame de Souza stelt ook verschillende aanvullende maatregelen voor, waaronder wettelijke verplichtingen voor AI-ontwikkelaars om de risico’s van hun producten voor kinderen te identificeren en te beperken, een systematisch proces voor het verwijderen van seksueel expliciete deepfake beelden van kinderen van het internet, en de erkenning van deepfake seksueel misbruik als een vorm van geweld tegen vrouwen en meisjes.
- Vakbonden van schoolleiders delen deze bezorgdheid en benadrukken dat de regelgeving dringend herzien moet worden nu de technologie zich snel ontwikkelt. Ze benadrukken dat wettelijke kaders en onderwijsinitiatieven gelijke tred moeten houden met de zich ontwikkelende AI-capaciteiten.
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
