Key takeaways

• Het algoritme van het sociale media platform TikTok lokt kwetsbare gebruikers in gevaarlijke psychologische ‘rabbit holes’.
• De huidige veiligheidsmaatregelen van het platform slagen er niet in de cyclus van extreme inhoud te doorbreken.
• EU-toezichthouders kunnen TikTok voor deze overtredingen een boete opleggen van 6 procent van de wereldwijde omzet.

De Europese Commissie heeft de eerste resultaten van een onderzoek bekendgemaakt waaruit blijkt dat het systeem voor het aanbieden van content van TikTok mogelijk in strijd is met de regelgeving van de Europese Unie. De algoritmen van het socialemediaplatform zou gebruikers naar gevaarlijke inhoud leiden. De toezichthouder waarschuwde met name dat de ‘For You’-pagina ‘rabbit holes’ kan creëren, waardoor mensen verstrikt raken in een cyclus van video’s die gericht zijn op isolatie, depressie en een vertekend lichaamsbeeld. Dergelijke patronen zijn vooral zorgwekkend voor kwetsbare volwassenen en minderjarige gebruikers. Voortdurende blootstelling aan deze inhoud kan namelijk een negatieve invloed hebben op de psychische gezondheid.

Algoritmische feedbacklussen

Volgens de bevindingen geeft het algoritme van het platform prioriteit aan betrokkenheidsstatistieken, zoals likes en kijktijd, bij het selecteren van aanbevelingen. Dit betekent dat als een gebruiker reageert op een triggerende video over gewichtsverlies of psychische problemen, het systeem waarschijnlijk steeds extremere versies van soortgelijke inhoud zal voorstellen. De EU waarschuwt dat deze feedbackloop angst kan verergeren, het zelfbeeld kan aantasten en eetstoornissen of andere psychische problemen kan versterken.

Onvoldoende garanties

Bovendien merkte de Commissie op dat TikTok de risico’s die verband houden met zijn aanbevelingsengine niet naar behoren heeft geanalyseerd, noch voldoende garanties heeft ingesteld om deze tegen te gaan. De huidige pogingen om de aan gebruikers getoonde inhoud te variëren, worden als ontoereikend beschouwd. Zelfs de functie “niet geïnteresseerd” is naar verluidt niet effectief, aangezien het algoritme voorrang blijft geven aan hoe lang iemand een video bekijkt boven zijn of haar expliciete verzoek om bepaalde onderwerpen te vermijden.

Voorgestelde maatregelen

Om deze problemen te verhelpen, stelt de EU voor dat TikTok zijn focus verlegt naar expliciete gebruikersvoorkeuren in plaats van naar de kijktijd. De toezichthouder eist ook intuïtievere gebruikersinstellingen en een consistente controle van het algoritme.

Mogelijke sancties

Deze voorlopige resultaten maken deel uit van een breder onderzoek naar de naleving door TikTok van de Wet op digitale diensten. Daarbij komen onderwerpen aan bod zoals duidelijkheid in advertenties, toegang tot gegevens voor wetenschappers en de bescherming van kinderen tegen verslavende interfaces. Als deze beschuldigingen formeel worden bewezen, kan TikTok een enorme financiële boete krijgen ter hoogte van 6 procent van zijn wereldwijde jaaromzet. Het bedrijf heeft de kans gekregen om het bewijsmateriaal te bekijken en een schriftelijke verdediging in te dienen. (ev)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!