Key takeaways
- In zeven rechtszaken wordt beweerd dat OpenAI’s chatbot ChatGPT geestelijke gezondheidscrises en onrechtmatige dood heeft veroorzaakt.
- Volgens de aanklagers is ChatGPT, dat door miljoenen mensen wordt gebruikt, fundamenteel gebrekkig en gevaarlijk. Zij merken op dat het gebruik van de AI-tool kan leiden tot psychoses en zelfmoordgedachten.
- OpenAI erkent dat beveiligingsmaatregelen kunnen verslechteren na langdurige interacties en heeft voorzorgsmaatregelen genomen zoals ouderlijk toezicht.
Op donderdag zijn er zeven rechtszaken ingediend waarin wordt beweerd dat OpenAI’s ChatGPT chatbot schade heeft veroorzaakt. Vier zaken zijn rechtszaken wegens onrechtmatige dood, terwijl drie mensen beweren dat de technologie geestelijke gezondheidscrises heeft veroorzaakt. De aanklagers zeggen dat ChatGPT, die door 800 miljoen mensen wordt gebruikt, fundamenteel gebrekkig en gevaarlijk is. Eén klacht beweert dat de 17-jarige jongen een maand lang suïcidale gesprekken voerde met de chatbot voordat hij in augustus overleed. Dat meldt de Amerikaanse nieuwssite The New York Times.
OpenAI neemt voorzorgsmaatregelen
Het is niet de eerste keer dan OpenAI door dergelijke feiten onder vuur ligt. Na een rechtszaak wegens onrechtmatige dood die in augustus werd aangespannen door de familie van een tiener uit Californië, erkende OpenAI de mogelijke aantasting van veiligheidsmaatregelen tijdens langdurige interacties met een chatbot. Ze hebben vervolgens voorzorgsmaatregelen genomen voor tieners en gebruikers in nood, waaronder ouderlijk toezicht dat ouders waarschuwt bij discussies over zelfmoord of zelfbeschadiging.
Gebruikers bespreken suïcidale gedachten
Uit de recente analyse van OpenAI bleek dat 0,07 procent van de gebruikers per week psychische noodsituaties met betrekking tot psychose of manie kon ervaren, terwijl 0,15 procent zelfmoord besprak. In verhouding tot alle gebruikers komen deze percentages overeen met een half miljoen personen die tekenen van psychose of manie vertonen en meer dan een miljoen personen die mogelijk suïcidale bedoelingen bespreken.
De rechtszaken werden aangespannen door het Tech Justice Law Project en het Social Media Victims Law Center. Meetali Jain, oprichtster van het Tech Justice Law Project, benadrukte de diversiteit van mensen die verontrustende interacties hebben gehad met ChatGPT, en wees op het potentieel van de chatbot om schade te berokkenen. (fc)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!