Key takeaways

• Interne documenten van Meta tonen bezorgdheid over mogelijk misbruik van AI-chatbots voor uitbuiting, vooral van minderjarigen.
• CEO Mark Zuckerberg heeft aanbevelingen voor strengere veiligheidsmaatregelen terzijde geschoven en geeft voorrang aan de keuzevrijheid van gebruikers.
• Publieke verontwaardiging dwong Meta er later toe zijn standpunt te herzien en de toegang van tieners tot AI-chatbots te beperken.

Interne documenten van Meta, die onlangs openbaar zijn gemaakt in het kader van een rechtszaak aangespannen door de procureur-generaal van New Mexico, Raul Torrez, onthullen een controversieel debat binnen het bedrijf over de veiligheid van zijn AI-chatbots voor minderjarigen. In de rechtszaak wordt Meta ervan beschuldigd kinderen onvoldoende te hebben beschermd tegen seksueel suggestieve inhoud en interacties op de platforms Facebook en Instagram.

Uitbuiting

Een van de belangrijkste zorgen van het veiligheidspersoneel van Meta was dat de chatbots, die zijn ontworpen om gezelschap te bieden en in staat zijn romantische en seksuele gesprekken te voeren, misbruikt zouden kunnen worden voor uitbuitingsdoeleinden.

Ondanks die waarschuwingen zou CEO Mark Zuckerberg de aanbevelingen om strengere veiligheidsmaatregelen, zoals ouderlijk toezicht, in te voeren, hebben afgewezen. In plaats daarvan koos hij voor een minder restrictieve aanpak, waarin de keuzevrijheid en de vrijheid van meningsuiting van gebruikers centraal staan.

Onenigheid binnen Meta

Uit interne communicatie blijkt dat er onenigheid bestaat binnen het management van Meta. Sommige leidinggevenden, waaronder Ravi Sinha, hoofd kinderveiligheidsbeleid, en Antigone Davis, hoofd wereldwijde veiligheid, uitten hun zorgen over de mogelijkheid dat minderjarigen door de chatbots geseksualiseerd zouden worden. Zuckerberg lijkt echter prioriteit te hebben gegeven aan een minder gecensureerde ervaring. Uit e-mails en vergadernotities blijkt dat hij voorstander was van het toestaan van “pikante” gesprekken voor volwassenen.

Publieke verontwaardiging

De controverse rond het beleid van Meta in verband met AI-chatbots kwam uiteindelijk aan het licht, wat leidde tot kritiek van het Amerikaanse Congres en grote bezorgdheid. Er verschenen rapporten met details over de mogelijkheden van de chatbots voor seksueel suggestieve interacties met minderjarige personages, inclusief grafische beschrijvingen van prepuberale lichamen.

Onder toenemende druk kwam Meta uiteindelijk terug op zijn standpunt. Het bedrijf kondigde aan dat tieners geen toegang meer zouden krijgen tot AI-chatbots en dat er een herziene versie met verbeterde veiligheidsmaatregelen zou worden geïntroduceerd.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!