Key takeaways

• Zuidoost-Aziatische landen hebben de toegang tot de Grok-chatbot van Elon Musk tijdelijk beperkt vanwege bezorgdheid over misbruik voor het genereren van expliciete inhoud zonder toestemming.
• De verbeterde beeldgeneratiemogelijkheden van Grok, in combinatie met de integratie in X, versterkten de risico’s van deepfakes en CSAM zonder toestemming.
• Regelgevende instanties blijven niet overtuigd door de pogingen van xAI om deze risico’s te beperken door middel van betaalde abonnementen en eisen strengere maatregelen tegen het genereren van schadelijke inhoud.

Maleisië en Indonesië hebben onlangs maatregelen genomen tegen Elon Musks Grok-chatbot, omdat ze bezorgd zijn over mogelijk misbruik ervan voor het genereren van expliciete inhoud zonder toestemming.

Regelgevende maatregelen in Zuidoost-Azië

De Maleisische regering heeft tijdelijke beperkingen opgelegd aan Grok vanwege wat zij noemde “herhaaldelijk falen” van X Corp, het moederbedrijf van Grok, om de risico’s van de AI-tool aan te pakken. Deze maatregel volgde op het besluit van Indonesië om de toegang tot Grok de dag ervoor op te schorten en X-functionarissen op te roepen voor een bespreking over deze kwestie.

De maatregelen van deze Zuidoost-Aziatische landen vloeiden voort uit berichten dat Grok-gebruikers in staat stelde om gemakkelijk online afbeeldingen te maken en te delen, waaronder afbeeldingen met expliciete inhoud zonder toestemming en materiaal met seksueel misbruik van kinderen (CSAM).

Verbeterde mogelijkheden voor het genereren van afbeeldingen

xAI had onlangs de mogelijkheden van Grok om afbeeldingen te genereren geüpdatet, waardoor het voor gebruikers gemakkelijker werd om op basis van tekstprompts beeldmateriaal te produceren. Deze update, in combinatie met de integratie van Grok met het sociale mediaplatform X van Musk, zorgde voor een aanzienlijke uitbreiding van het bereik. Als reactie op de groeiende bezorgdheid over inhoudsmoderatie kondigde xAI een plan aan om de functies voor het genereren en bewerken van afbeeldingen te beperken tot betalende abonnees. Deze maatregel was bedoeld om kwetsbaarheden aan te pakken die het mogelijk maakten om seksueel expliciete output te creëren.

Ondanks deze inspanningen bleven de regelgevende instanties in Indonesië en Maleisië niet overtuigd door de reacties van xAI. Zij voerden aan dat het bedrijf voornamelijk vertrouwde op door gebruikers gemelde inhoud en niet adequaat inspeelde op de inherente risico’s van het ontwerp van Grok. De Maleisische Commissie voor Communicatie en Multimedia benadrukte de noodzaak van “effectieve waarborgen” om inhoud met vrouwen en kinderen te voorkomen, terwijl het Indonesische ministerie van Communicatie en Digitale Zaken niet-consensuele seksuele deepfakes bestempelde als een ernstige schending van de mensenrechten.

Internationale controle

De controverse rond Grok heeft ook aanleiding gegeven tot onderzoeken in andere landen, waaronder de Europese Unie, het Verenigd Koninkrijk, Brazilië en India. Er is bezorgdheid geuit over de rol van Grok bij het faciliteren van de creatie van obscene deepfakes. Sommige wetgevers in de Verenigde Staten hebben zelfs aanbevolen dat app stores Grok tijdelijk verwijderen totdat Musk substantiële wijzigingen doorvoert om deze problemen aan te pakken.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!