Key takeaways

• Zeven gezinnen in Frankrijk klagen TikTok aan voor vermeende schade aan hun kinderen door onvoldoende moderatie van de inhoud.
• De rechtszaak wil het platform verantwoordelijk stellen voor het promoten van schadelijke inhoud met betrekking tot zelfbeschadiging, zelfmoord en eetstoornissen.
• Algos Victima, een collectief van deze families, beweert dat de algoritmische gebreken van TikTok de dienst onveilig maken.

Zeven gezinnen in Frankrijk spannen een rechtszaak aan tegen TikTok, omdat ze beweren dat de ontoereikende inhoudscontrole van het platform hun kinderen in gevaar brengt. Deze families, die een collectief vormen dat bekend staat als Algos Victima, klagen ByteDance aan, het moederbedrijf van TikTok dat gevestigd is in Beijing. Ze beweren dat het platform schadelijke inhoud promoot die gerelateerd is aan zelfbeschadiging, zelfmoord en eetstoornissen. Dit meldt Politico.

De beschuldigingen

Hun juridische uitdaging is om TikTok verantwoordelijk te houden voor zijn falende moderatie, met het argument dat deze gebreken de dienst onveilig maken. Het collectief bestaat uit families van tienerdochters die verschillende vormen van schade hebben ondervonden op het platform, waaronder twee die op tragische wijze door zelfmoord om het leven zijn gekomen.

Precedenten en juridisch landschap

In september 2023 diende de familie van de 15-jarige Marie een rechtszaak in tegen TikTok. Ze beschuldigden het platform van het “aanmoedigen van zelfdoding”, “het niet ingrijpen bij een persoon in gevaar” en “het bevorderen en adverteren van methoden voor zelfbeschadiging”. De advocaat van Marie, Laure Boutron-Marmion, verklaarde dat het algoritme van TikTok Marie gevangen hield in een cyclus van giftige inhoud die gekoppeld was aan pesterijen waarmee ze te maken kreeg vanwege haar gewicht.

Digitale verantwoordelijkheid en aansprakelijkheid

Deze zaak is geïnspireerd op een Brits precedent waarbij een lijkschouwer concludeerde dat de zelfmoord van de 14-jarige Molly Russell was beïnvloed door grafische zelfbeschadigings- en zelfmoordcontent die ze tegenkwam op Pinterest en Instagram. Deze beslissing benadrukte de mogelijke invloed van algoritmen op het versterken van schadelijk materiaal.

Bredere implicaties voor online platforms

Het juridische landschap rond online platforms en door gebruikers gegenereerde inhoud is complex. In de Verenigde Staten gaan er stemmen op om Sectie 230 van de Communications Decency Act in te trekken, die bedrijven vrijwaart van aansprakelijkheid voor door gebruikers geplaatste inhoud. Er zijn echter ook discussies over het aansprakelijk stellen van platforms voor schadelijke inhoud, met name in gevallen van sekshandel.

Algoslachtoffers civiele procedure

De civiele rechtszaak van Algos Victima heeft als doel het algoritme en bedrijfsmodel van TikTok onder de loep te nemen. Ze willen een precedent scheppen dat platforms verantwoordelijk houdt voor de mogelijk schadelijke gevolgen van hun algoritmes. Hoewel de Franse afdeling van TikTok weigert commentaar te geven op de zaak, hebben ze verklaard dat ze inhoud met betrekking tot zelfmoord of zelfbeschadiging verbieden.

Betekenis en gevolgen

Deze rechtszaak heeft belangrijke gevolgen voor TikTok, dat 21 miljoen gebruikers claimt in Frankrijk. Het zou een precedent kunnen scheppen met betrekking tot de verantwoordelijkheid van platforms voor door gebruikers gegenereerde inhoud en de mogelijke gevolgen daarvan voor het welzijn van gebruikers. De Franse president Emmanuel Macron heeft eerder opgeroepen tot meer transparantie in de algoritmes die worden gebruikt door platforms zoals TikTok, terwijl hij zich verzet tegen een volledig verbod op de app.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!