Key takeaways
- Ofcom onderzoekt het platform X van Elon Musk vanwege mogelijk misbruik van de AI-tool Grok voor het genereren van seksueel expliciete afbeeldingen, waaronder afbeeldingen van kinderen.
- X riskeert zware straffen, tot 10 procent van zijn wereldwijde omzet of 18 miljoen pond (ongeveer 20,8 miljoen euro), als blijkt dat het in strijd handelt met de Britse wetgeving inzake de bescherming van kinderen.
De Britse mediawaakhond Ofcom is een onderzoek gestart naar het sociale mediaplatform X van Elon Musk met betrekking tot de AI-tool Grok. Er zijn zorgen geuit dat Grok wordt misbruikt om seksueel expliciete afbeeldingen te genereren, waaronder afbeeldingen van kinderen.
Ofcom verklaarde dat het verontrustende meldingen had ontvangen over het gebruik van de chatbot voor het maken en delen van ongeoorloofde naaktfoto’s van personen en seksueel suggestieve inhoud waarbij minderjarigen betrokken zijn. Als blijkt dat X de Britse wetgeving overtreedt, kan het bedrijf zware straffen krijgen, mogelijk een boete van maximaal 10 procent van zijn wereldwijde omzet of 18 miljoen pond (ongeveer 20,8 miljoen euro), afhankelijk van welk bedrag het hoogst is.
Politieke reacties
Als X niet meewerkt, heeft Ofcom de bevoegdheid om een gerechtelijk bevel te vragen dat internetproviders dwingt de toegang tot het platform binnen het Verenigd Koninkrijk te blokkeren. Minister van Technologie Liz Kendall sprak haar steun uit voor het onderzoek van Ofcom en drong aan op een snelle afronding ervan, waarbij ze benadrukte dat er tijdig actie moet worden ondernomen om het publiek en de slachtoffers te beschermen.
Haar voorganger, Peter Kyle, omschreef de situatie als “verschrikkelijk” en deelde een schokkend verhaal over een afbeelding van een joodse vrouw in bikini die door Grok was gegenereerd en online verspreid, met Auschwitz op de achtergrond. Andere politici hebben hun bezorgdheid geuit, waaronder de Noord-Ierse politica Cara Hunter, die door deze kwesties besloot het platform te verlaten. Downing Street herhaalde dat de regering zich inzet voor de bescherming van kinderen, maar verklaarde dat haar aanwezigheid op X nog steeds wordt geëvalueerd.
Focus onderzoek
Het onderzoek van Ofcom zal zich richten op de vraag of X illegale inhoud adequaat heeft verwijderd toen het hiervan op de hoogte werd gesteld en of het passende maatregelen heeft genomen om te voorkomen dat Britse gebruikers met dergelijk materiaal in aanraking komen. Dit omvat onder meer intieme afbeeldingen zonder toestemming en materiaal met seksueel misbruik van kinderen. De toezichthouder zal ook de effectiviteit beoordelen van de leeftijdsverificatiesystemen van X om te voorkomen dat kinderen toegang krijgen tot pornografische inhoud.
Wereldwijde bezorgdheid
Dit onderzoek volgt op wereldwijde kritiek op de functie voor het maken van afbeeldingen van Grok, die in het weekend heeft geleid tot tijdelijke verboden in Maleisië en Indonesië. Hoewel een woordvoerder van Ofcom geen tijdschema voor het onderzoek kon geven, benadrukte hij dat het onderzoek hoge prioriteit heeft en dat de toezichthouder zich inzet voor de handhaving van wettelijke bescherming tegen schadelijke inhoud, met name wanneer kinderen gevaar lopen.
Juridische experts suggereren dat Ofcom weliswaar flexibiliteit heeft bij het bepalen van het tempo van het onderzoek, maar dat het mogelijk een bedrijfsonderbrekingsbevel zou kunnen aanvragen – een gerechtelijk bevel dat de toegang tot X binnen het Verenigd Koninkrijk blokkeert – als onmiddellijke maatregel in plaats van als laatste redmiddel, maar alleen in uitzonderlijke omstandigheden waarbij sprake is van voortdurende schade. (uv)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!