Key takeaways

• Snapchats algoritme beveelt drugsdealers aan bij gebruikers, inclusief kinderen.
• Ondanks beweringen over proactief filteren, slaagt Snapchat er niet in om drugsgerelateerde inhoud in gebruikersnamen te modereren.
• Digitalt Ansvar beschuldigt Snapchat van het overtreden van de EU-regels voor kinderbescherming.

Een Deens onderzoek door Digitalt Ansvar, een organisatie die zich richt op verantwoorde digitale ontwikkeling, heeft bewijs gevonden dat erop wijst dat Snapchat er niet in slaagt om de drugshandel op haar platform effectief te verminderen. Ondanks de beweringen van Snapchat dat het proactief technologie gebruikt om profielen te filteren die drugs verkopen, vond het onderzoek een aanzienlijk aantal accounts die openlijk illegale stoffen zoals cocaïne, opioïden en MDMA verkopen.

Zorgen over drugsverkoop op Snapchat

De onderzoekers maakten profielen aan die 13-jarige gebruikers simuleerden en ontdekten talloze personen die openlijk reclame maakten voor drugs via gebruikersnamen die trefwoorden bevatten zoals “coke”, “weed” en “molly”. Na melding van 40 van deze profielen aan Snapchat werden er slechts 10 verwijderd, terwijl de andere 30 meldingen werden afgewezen.

Snapchat zei later dat het 75 procent van de gemelde accounts had uitgeschakeld. Het onderzoek bracht echter ook een zorgwekkend probleem aan het licht met het aanbevelingssysteem van Snapchat, dat profielen van drugsdealers leek te promoten bij gebruikers, waaronder kinderen die nog nooit met dergelijke inhoud in aanraking waren gekomen.

Snapchat algoritme beveelt drugsdealers aan

Binnen enkele uren kregen de door de onderzoekers geteste profielen aanbevelingen om verbinding te maken met wel 70 vermoedelijke drugsdealers vanwege hun verbinding met één enkele vriend die gekoppeld was aan een profiel van een drugsdealer. Ask Hesby Holm, CEO van Digitalt Ansvar, was gealarmeerd door de ontdekking en verklaarde dat het algoritme van Snapchat actief drugsgerelateerde inhoud naar kinderen pusht, waardoor de toegang tot illegale stoffen alarmerend is.

Holm bekritiseerde de bewering van Snapchat dat het filteren proactief is en stelde dat het platform er duidelijk niet in slaagt om expliciete en impliciete drugsgerelateerde taal in gebruikersnamen te modereren. Hij wees erop dat de technologie om deze gebruikersnamen effectief te filteren bestaat, wat erop wijst dat Snapchat niet bereid is om deze technologie op de juiste manier te implementeren.

Snapchat verdedigt zijn standpunt

Het bedrijf verdedigde zijn standpunt door te wijzen op zijn nultolerantiebeleid ten opzichte van de verkoop van drugs en op zijn inspanningen om dergelijke accounts te identificeren en uit te schakelen. Het bedrijf zei ook dat het samenwerkte met wetshandhavers en gebruikers voorlichtte over de gevaren van drugs.

Desondanks beschuldigde Digitalt Ansvar Snapchat van het overtreden van de EU-regels voor de bescherming van kinderen in digitale diensten en drong er bij de autoriteiten op aan om actie te ondernemen. De bevindingen van de organisatie geven aanleiding tot ernstige bezorgdheid over de veiligheid en het welzijn van jonge Snapchat-gebruikers en roepen op tot strengere maatregelen om te voorkomen dat het platform wordt misbruikt voor illegale activiteiten. (fc)