Key takeaways

• In de rapporten van grote online platforms in het kader van de EU-wet op digitale diensten ontbreekt een uitgebreide beoordeling van potentiële schade.
• Platformen zien vaak over het hoofd hoe hun ontwerp bijdraagt aan systemische risico’s zoals geestelijke gezondheidsproblemen, politieke polarisatie en de verspreiding van schadelijke inhoud.
• Transparantie door middel van verifieerbare gegevens en zinvolle betrokkenheid van belanghebbenden zijn cruciaal voor het opbouwen van vertrouwen bij gebruikers en regelgevers.

Uit een recent onderzoek blijkt dat grote online platforms in het kader van de Digital Services Act (DSA) van de Europese Unie de risico’s van hun diensten niet adequaat beoordelen.

De DSA verplicht deze platforms, waaronder prominente namen als Facebook, TikTok en Google, om jaarlijks rapporten in te dienen waarin potentiële schade wordt beschreven, zoals schade aan de geestelijke gezondheid van gebruikers. Uit het onderzoek, dat werd uitgevoerd door de DSA Civil Society Coordination Group (CSCG), bleek echter dat deze rapporten vaak niet uitgebreid ingaan op de werkelijke gevaren die platformfunctionaliteit met zich meebrengt.

Verantwoording van platformen

Hoewel platforms verplicht zijn om vooraf risicobeoordelingen uit te voeren voordat ze nieuwe functies of producten in de EU lanceren, pleit het CSCG-rapport voor een bredere aanpak. Het rapport stelt dat veel analyses zich vooral richten op inhoudsmoderatie, terwijl ze over het hoofd zien dat het ontwerp van het platform zelf kan bijdragen aan bredere risico’s zoals mentale gezondheidsproblemen, politieke polarisatie en de verspreiding van schadelijke informatie.

Betrokkenheid van belanghebbenden en transparantie

De groep benadrukt het belang van transparantie bij het opbouwen van vertrouwen bij gebruikers en regelgevers. In veel van de ingediende rapporten ontbreken verifieerbare gegevens om beweringen over de effectiviteit van geïmplementeerde risicobeperkende maatregelen te ondersteunen. Om de geloofwaardigheid te vergroten, moeten platforms zowel kwantitatieve als kwalitatieve gegevens bekendmaken, waaronder statistieken over de blootstelling aan schadelijke inhoud en de betrokkenheid van gebruikers bij controletools.

Verder pleit de CSCG voor een zinvolle betrokkenheid van belanghebbenden bij risicobeoordelingsprocessen. Dit houdt ook in dat maatschappelijke organisaties, onderzoekers en betrokken gemeenschappen erbij betrokken moeten worden om ervoor te zorgen dat de bezorgdheid uit de echte wereld voldoende wordt weerspiegeld in risicobeoordelingen en risicobeperkende strategieën.

Aanbevelingen en toekomstige richtingen

Het rapport concludeert dat, hoewel de eerste ronde van DSA-risicobeoordelingsrapporten een stap in de richting van meer verantwoordingsplicht is, er nog aanzienlijke verbeteringen nodig zijn. Platforms moeten prioriteit geven aan het aanpakken van ontwerpgerelateerde risico’s, de transparantie vergroten door middel van verifieerbare gegevens en actief samenwerken met belanghebbenden om de veiligheid van gebruikers te bevorderen en vertrouwen op te bouwen.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!