Key takeaways

• Een rechtenstudent uit Hongkong wordt strafrechtelijk vervolgd omdat hij AI zou hebben gebruikt om pornografische afbeeldingen van vrouwelijke studenten en docenten te maken zonder hun toestemming.
• De eerste reactie van de universiteit werd als onvoldoende beschouwd, wat leidde tot een publieke verontwaardiging en oproepen tot hardere maatregelen tegen de beledigende student.
• Deze zaak benadrukt de noodzaak van uitgebreide regelgeving in Hong Kong voor AI-gegenereerde inhoud, met name deepfake pornografie, om individuele rechten en privacy te beschermen.

In Hongkong is een strafrechtelijk onderzoek gestart na beschuldigingen dat een rechtenstudent van de Universiteit van Hongkong kunstmatige intelligentie (AI) heeft gebruikt om pornografische afbeeldingen te maken van vrouwelijke studenten en docenten. Het Office of the Privacy Commissioner for Personal Data startte het onderzoek na een publieke verontwaardiging van studenten, die kritiek hadden op de ogenschijnlijke passiviteit van de universiteit en de ontoereikende bescherming van slachtoffers.

De slachtoffers beweren dat de beschuldigde student hun foto’s op sociale media verzamelde en kunstmatige intelligentiesoftware gebruikte om expliciete inhoud te genereren. Meer dan 700 afbeeldingen, gecategoriseerd op naam van het slachtoffer, zouden in februari op zijn laptop zijn gevonden. Hoewel de ontdekking niet openbaar is gemaakt, heeft dit geleid tot verontwaardiging en oproepen om verantwoording af te leggen.

De reactie van de universiteit

De reactie van de universiteit, waaronder een waarschuwingsbrief en een eis tot verontschuldiging van de beschuldigde student, werd door de slachtoffers als ontoereikend beschouwd. Ze uitten hun verdriet over het feit dat ze gedwongen waren om klaslokalen te delen met de dader, wat de psychologische last van de situatie onderstreepte.

De publieke druk nam toe en de Chief Executive van Hong Kong, John Lee, benadrukte de verantwoordelijkheid van universiteiten om ethisch gedrag onder studenten te bevorderen en gevallen van wangedrag serieus aan te pakken. Hij wees erop dat wangedrag strafbare feiten kunnen zijn en individuele rechten en privacy kunnen schenden.

Noodzaak voor uitgebreide regelgeving

De universiteit heeft beloofd het incident verder te onderzoeken en heeft beloofd verdere actie te ondernemen als de slachtoffers dat nodig achten. Zij streeft ernaar om een veilige en respectvolle leeromgeving voor iedereen te waarborgen.

Het huidige juridische kader in Hongkong biedt slechts beperkte bescherming tegen AI-gegenereerde inhoud. Hoewel het publiceren van intieme beelden zonder toestemming strafbaar is, ontbreekt een expliciet verbod op het creëren ervan met behulp van kunstmatige intelligentie. Deze zaak onderstreept de dringende noodzaak voor duidelijke en uitgebreide wetgeving die inspeelt op de ethische risico’s en de schadelijke impact van deepfakepornografie. (jv)

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!