Key takeaways

• Een uitgebreid netwerk van Telegramgebruikers, dat zich uitstrekt over Spanje en Italië, deelt schadelijke seksuele inhoud.
• De daders verdienen geld aan deze inhoud door toegangskosten aan te rekenen en reclame te maken voor “nudifying”-bots die valse naaktfoto’s maken.
• AI Forensics dringt aan op betere moderatie op Telegram en roept op tot classificatie als een Very Large Online Platform om de transparantie en verantwoordingsplicht te vergroten.

Uit een recent rapport van AI Forensics blijkt dat op het berichtenplatform Telegram een “grootschalig misbruiknetwerk” actief is. De Europese non-profitorganisatie onderzocht 2,8 miljoen berichten in 16 Telegramgroepen gedurende een periode van zes weken en ontdekte een uitgebreid netwerk dat schadelijke seksuele inhoud deelt. Het gaat hier onder andere om seksueel materiaal zonder toestemming en kinderpornografie. Zo’n 52.000 mensen zouden hierbij betrokken zijn in Spanje en Italië.

Uitbuiting en monetisatie

Volgens het rapport zou het vooral gaan om jonge, heteroseksuele mannen die afbeeldingen en video’s verspreiden van vrouwen die ze kennen, vaak zonder toestemming. In de meest extreme gevallen gaat het om materiaal van kinderen die in scenario’s van incest en verkrachting te zien zijn. De daders verdienen geld aan deze inhoud door kosten aan te rekenen voor de toegang tot kanalen en archieven. Ze maken ook reclame voor de zogenaamde “nudifying”-bots, die nepnaaktfoto’s maken.

Uit het onderzoek blijkt dat de slachtoffers die in de video’s te zien zijn vaak bij naam worden genoemd, getagd en te vinden zijn via de profiellinks die worden gedeeld in de Telegramkanalen. De inhoud wordt dan ook verspreid buiten Telegram op platformen zoals TikTok, Reddit en Instagram.

Moderatie en verantwoordingsplicht

Volgens AI Forensics zijn de huidige moderatie-inspanningen van Telegram ontoereikend. Hoewel sommige groepen werden gesloten, werden ze snel opnieuw aangemaakt met dezelfde namen. AI Forensics roept Telegram op om zijn meldingsmechanismen te verbeteren en strenger zijn platformbeleid te handhaven, zeker wat betreft het genereren van inkomsten via het premium-abonnementsmodel.

Ze pleiten er ook voor om Telegram te classificeren als een Very Large Online Platform (VLOP) onder de Digital Services Act van de EU. Hierdoor onderwerpen regelgevers het platform aan grotere transparantie en verantwoordingsplicht rond zijn algoritmen en praktijken voor inhoudsmoderatie. Daarnaast dringen ze aan op het opnemen van bepalingen in de EU AI Act die het verwijderen van materiaal van seksueel misbruik van kinderen en beelden zonder toestemming van online platforms vereenvoudigen.

Telegram

Telegram houdt vol dat het seksuele inhoud met kinderen en beelden zonder toestemming verbiedt volgens zijn servicevoorwaarden. Volgens het platform worden er al AI-aangedreven moderatietools en menselijk personeel ingezet om misbruik te bestrijden en worden gebruikers aangemoedigd om overtredingen te melden. De gevolgen voor het overtreden van de regels van het platform variëren van tijdelijke opschorting van functies tot permanente verwijdering van het account. (ev)(fc)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!