Key takeaways

• De Europese Unie onderzoekt het socialemediaplatform X van Elon Musk omdat de AI-chatbot Grok door middel van deepfakes materiaal zou genereren met seksueel misbruik van kinderen.
• Wereldwijd neemt de kritiek op Grok toe vanwege het produceren en delen van ongepaste afbeeldingen.
• Dit EU-onderzoek volgt op een boete van 120 miljoen euro die aan X is opgelegd op grond van de Digital Services Act wegens het misleiden van gebruikers en het belemmeren van de toegang tot gegevens.

De Europese Unie heeft een onderzoek gestart naar het sociale mediaplatform X van Elon Musk, voorheen bekend als Twitter, met betrekking tot de AI-chatbot Grok. Het onderzoek richt zich op de vraag of X adequaat heeft gereageerd op de risico’s die gepaard gaan met de inzet van Grok, met name het genereren van seksueel expliciete deepfakes, en in het bijzonder naaktbeelden van kinderen.

Toenemende wereldwijde kritiek

Deze actie volgt op toenemende wereldwijde kritiek op Grok nadat gebruikers meldden dat de chatbot ongepaste afbeeldingen produceerde en deelde op X. Regelgevende instanties en kinderbeschermingsorganisaties hebben hun ernstige bezorgdheid geuit over de schadelijke aard van die deepfakes.

De Britse communicatieregulator Ofcom heeft een formeel onderzoek gestart om na te gaan of X de nationale Online Safety Act heeft overtreden. Ook Frankrijk en India hebben zich aangesloten bij de kritiek en beschuldigen Grok ervan zonder toestemming seksueel suggestieve afbeeldingen te creëren, wat illegaal is.

X, een dochteronderneming van xAI, houdt vol dat het illegale inhoud, waaronder materiaal over seksueel misbruik van kinderen, verwijdert, overtredende accounts opschort en indien nodig samenwerkt met wetshandhavingsinstanties.

Eerdere boetes en controverse

Het onderzoek van de EU naar Grok volgt op een aanzienlijke boete van 120 miljoen euro die aan X is opgelegd op grond van de Digital Services Act (DSA). Die sanctie vloeide voort uit bezorgdheid dat X gebruikers misleidde met zijn betaalde blauwe vinkje-verificatiesysteem, onderzoekers de toegang tot gegevens belemmerde en geen goede advertentiedatabase had opgezet.

De DSA, die in 2023 van kracht wordt, geeft de EU de bevoegdheid om boetes op te leggen van maximaal 6 procent van de jaarlijkse wereldwijde omzet van een onlineplatform voor het niet effectief aanpakken van illegale inhoud, desinformatie of schendingen van de transparantie. De regering-Trump heeft de DSA eerder bekritiseerd als een inbreuk op de vrijheid van meningsuiting. De Amerikaanse vicepresident JD Vance sloot zich bij dit standpunt aan en veroordeelde in december publiekelijk het optreden van de EU tegen X. Hij riep op tot steun voor de vrijheid van meningsuiting in plaats van wat hij beschouwde als aanvallen op Amerikaanse bedrijven. (uv)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!

(ns)