Kunstmatige intelligentie voert de populariteit op van apps en websites die vrouwen op foto’s digitaal uitkleden.
Smartphones als wapens: AI zorgt voor toename in populariteit van ‘Nudify’-apps die vrouwen op foto’s digitaal uitkleden
Waarom is dit belangrijk?
De ethische en juridische implicaties van deze technologie zijn aanzienlijk, gezien het non-consensuele karakter en de privacy-inbreuken die het met zich meebrengt. Deze trend wijst op een verontrustende verschuiving in hoe AI wordt gebruikt voor schadelijke en exploiterende doeleinden.In het nieuws. In september bezochten 24 miljoen mensen dergelijke websites. Dankzij een sterke marketingaanwezigheid op sociale netwerken zoals X en Reddit, blijkt uit onderzoek van Graphika.
- Deze diensten, die voornamelijk gericht zijn op vrouwen, creëren naaktbeelden zonder toestemming of medeweten van de betrokkenen.
- Begin oktober haalde een stad in Spanje het wereldnieuws. Een aantal jonge schoolmeisjes zeiden dat ze valse naaktfoto’s van zichzelf hadden ontvangen. Die waren gemaakt met behulp van een gemakkelijk toegankelijke AI-“uitkleed-app”.
+ 2.400% in advertenties
Zoom in. Een groei van meer dan 2.400% in advertenties voor deze apps op sociale media sinds het begin van dit jaar.
- Deze apps maken het mogelijk om foto’s van individuen, zonder hun toestemming of medeweten, te manipuleren om ze naakt te tonen.
- Een illustratie van dit misbruik is het scenario waarin een individu een deepfake-applicatie gebruikt om een foto van een collega of studiegenoot te manipuleren, waardoor het lijkt alsof deze persoon naakt is.
- Vervolgens wordt deze vervalste afbeelding gedeeld in hun sociale of werkomgeving, wat leidt tot potentiële schade en schending van privacy.
“Net als met het internet zal porno nu ook een baanbrekende rol spelen”
Zoom out. De opkomst van deepfake-pornografie wordt een bredere trend binnen kunstmatige intelligentie en digitale ethiek.
- Dat leidt tot zorgen over de impact van deze technologieën op de algehele internetveiligheid en privacybescherming.
- Momenteel bestaat er geen federale Amerikaanse wetgeving die de productie van deepfake-pornografie aan banden legt. Maar het vervaardigen van dergelijke beelden van minderjarigen is wel illegaal.
- In november kreeg een kinderpsychiater uit North Carolina een gevangenisstraf van 40 jaar opgelegd voor het toepassen van ‘uitkleed’-apps op foto’s van zijn patiënten.
- Dit was de eerste rechtszaak van deze aard, die viel onder de wetgeving tegen het produceren van deepfake-materiaal gerelateerd aan kindermisbruik.
- TikTok en Meta Platforms Inc. hebben stappen ondernomen om zoektermen gerelateerd aan ‘uitkleed’-apps te blokkeren. De specifieke apps zullen eventueel worden verboden, maar de technologie zelf verdwijnt niet.
Samengevat. Deze ontwikkeling in kunstmatige intelligentie toont een verontrustende trend in non-consensuele beeldmanipulatie, die de noodzaak van meer bewustzijn en striktere regelgeving benadrukt.
