Key takeaways
- Regelgevers wereldwijd volgen X nauwlettend door het vermogen van zijn chatbot om seksueel suggestieve inhoud met kinderen te genereren.
- Het misbruik van Grok leidde tot wereldwijde verontwaardiging en oproepen tot onderzoek naar de veiligheidsprotocollen van X en mogelijke juridische gevolgen.
- Ondanks de kritiek blijft het gebruikersbestand van X groeien.
X, het socialemediaplatform van Elon Musk, staat onder streng toezicht van regelgevende instanties in Europa, India en Maleisië na zorgen over de chatbot Grok. De chatbot stelt gebruikers in staat om AI-gestuurde afbeeldingen te genereren en is onlangs misbruikt om seksueel suggestieve inhoud met kinderen en vrouwen te creëren.
Dit misbruik heeft tot wereldwijde verontwaardiging geleid, waarbij het platform wordt veroordeeld omdat het het creëren en delen van dergelijk uitbuitend materiaal toestaat. De Britse mediawaakhond Ofcom heeft X om informatie gevraagd over de problemen, terwijl een Braziliaans parlementslid heeft opgeroepen Grok te schorsen tot een volledig onderzoek is afgerond.
Nationale en internationale acties
De Europese Commissie toonde zich zeer bezorgd over de situatie en noemde het “illegaal”, “afschuwelijk” en “walgelijk”. Ze benadrukte dat er voor dergelijke inhoud geen plaats is in Europa. Het Indiase ministerie van Elektronica en Informatietechnologie heeft X opdracht gegeven om de functionaliteit en beveiligingsprotocollen van Grok volledig te herzien. Tegelijkertijd heeft de Maleisische Communications and Multimedia Commission een onderzoek ingesteld naar X en is van plan vertegenwoordigers van het bedrijf op te roepen voor ondervraging.
In de Verenigde Staten heeft het National Center on Sexual Exploitation het Ministerie van Justitie en de Federal Trade Commission gevraagd de zaak te onderzoeken. Zij voerden aan dat bestaande federale wetten die materiaal over seksueel misbruik van kinderen verbieden, zelfs van toepassing zijn op virtueel gegenereerde inhoud die identificeerbare kinderen in expliciete situaties afbeeldt. Het Ministerie van Justitie bevestigde zijn belofte iedereen die betrokken is bij de productie of het bezit van dergelijk materiaal streng te vervolgen.
Reactie X
X gaf uiteindelijk een openbare verklaring vrij, waarin het zijn inzet om illegale inhoud te verwijderen en samen te werken met wetshandhavers uiteenzette. Elon Musk zei zelf dat iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer ze die inhoud zouden uploaden.
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.
— Safety (@Safety) January 4, 2026
Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO
Er blijven echter zorgen bestaan over de staat van dienst van X in de strijd tegen seksuele uitbuiting van kinderen. Incidenten uit het verleden, zoals de korte schorsing en vervolgens herinvoering van een gebruiker die beelden van kinderuitbuiting had geüpload, hebben twijfels opgeroepen over hun inzet voor de veiligheid van het platform. Experts zijn van mening dat xAI bij het implementeren van Grok Imagine heeft gefaald in het implementeren van basisbeveiligingsmaatregelen, waardoor het gevoelig is voor misbruik.
Ondanks de controverse blijven X en Grok groeien in gebruik. Gegevens van Apptopia tonen een aanzienlijke toename in dagelijkse downloads voor beide platformen sinds het begin van het jaar. (fc)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!