Key takeaways
- OpenAI introduceert een leeftijdsvoorspellingsmodel voor ChatGPT-abonnementen om minderjarigen te beschermen.
- Dit initiatief heeft tot doel de blootstelling van minderjarigen aan potentieel schadelijke inhoud tot een minimum te beperken, terwijl volwassenen door middel van verificatie weer volledige toegang krijgen.
- OpenAI toont zijn toewijding aan verantwoorde AI-ontwikkeling door meerdere veiligheidsmaatregelen te nemen, waaronder ouderlijk toezicht.
OpenAI neemt maatregelen om jongere gebruikers op zijn ChatGPT-platform te beschermen door een leeftijdsvoorspellingsmodel voor consumentenabonnementen te implementeren. Dit model, dat is ontworpen om accounts van personen onder de 18 jaar te identificeren, analyseert een combinatie van factoren, zoals gebruikspatronen, de leeftijd van het account, typische activiteitstijden en de door de gebruiker opgegeven leeftijd.
Dit initiatief komt door toenemende kritiek op de veiligheidsmaatregelen die OpenAI hanteert, met name wat betreft de bescherming van minderjarigen. Het bedrijf wordt samen met andere technologiebedrijven onderzocht door de FTC, die de mogelijke negatieve gevolgen van AI-chatbots voor kinderen en tieners onderzoekt. Daarnaast is OpenAI betrokken bij meerdere rechtszaken wegens dood door schuld, waaronder één die een verband legt tussen het gebruik van ChatGPT en de zelfmoord van een tienerjongen.
Beschermende maatregelen
Wanneer het leeftijdsvoorspellingsmodel een gebruiker als mogelijk jonger dan 18 jaar markeert, activeert ChatGPT automatisch beschermende maatregelen om de blootstelling aan gevoelige inhoud, zoals afbeeldingen van zelfbeschadiging, tot een minimum te beperken.
Gebruikers die ten onrechte als minderjarig worden geïdentificeerd, kunnen gebruikmaken van Persona, een identiteitsverificatiedienst die ook door andere technologiebedrijven zoals Roblox wordt gebruikt, om weer volledige toegang te krijgen.
Uitbreiding van veiligheidsmaatregelen
De inspanningen van OpenAI om de veiligheid van gebruikers te verbeteren gaan verder dan het leeftijdsvoorspellingsmodel. In augustus kondigden ze plannen aan om ouderlijk toezicht uit te brengen, dat vervolgens in september werd geïntroduceerd.
Het bedrijf is ook actief bezig met de ontwikkeling van een systeem voor het verifiëren van de leeftijd van gebruikers. Bovendien heeft OpenAI in oktober een raad van deskundigen opgericht om inzicht te verschaffen in de mogelijke impact van AI op het mentale welzijn van gebruikers.
OpenAI heeft zich ertoe verbonden de nauwkeurigheid van zijn leeftijdsvoorspellingsmodel voortdurend te verbeteren. De uitrol zal in de komende weken in eerste instantie de Europese Unie omvatten, waarna verdere uitbreidingen gepland zijn om aan regionale vereisten te voldoen. (uv)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!