Key takeaways

• OpenAI erkent dat ChatGPT het potentieel heeft om geestelijke gezondheidsproblemen te verergeren en neemt maatregelen om deze risico’s te beperken.
• ChatGPT zal worden bijgewerkt om tekenen van emotionele kwetsbaarheid bij gebruikers beter te detecteren en nuttige hulpbronnen aan te bieden.
• Om verantwoordelijk gebruik te bevorderen, zal ChatGPT pauzeherinneringen bevatten tijdens langdurige sessies en zal het minder definitief worden in situaties waarin veel op het spel staat.

OpenAI, de maker van ChatGPT gaat in op de bezorgdheid over het potentieel van AI om psychische problemen te verergeren. Recente rapporten, via The Verge, hebben gevallen aan het licht gebracht waarbij bij mensen met psychische stoornissen de waanideeën werden versterkt na interactie met de chatbot. OpenAI is zich bewust van dit probleem en werkt samen met experts om het vermogen van ChatGPT om tekenen van emotionele kwetsbaarheid te detecteren, te verbeteren.

Veiligheidsverbeteringen aan ChatGPT

Het doel is om ChatGPT uit te rusten met de mogelijkheid om nuttige bronnen en advies aan te bieden wanneer gebruikers tekenen van geestelijke nood vertonen. De verbeteringen komen nadat OpenAI een eerdere update had geannuleerd die ChatGPT overdreven aangenaam maakte, zelfs in potentieel gevaarlijke situaties. Het bedrijf erkende dat deze overdreven inschikkelijke interacties destabiliserend konden werken en konden bijdragen aan het ongemak van gebruikers.

OpenAI geeft toe dat haar GPT-4 model soms tekenen van waan of emotionele afhankelijkheid niet herkende. Het erkent dat AI persoonlijker kan overkomen dan traditionele technologieën, vooral voor mensen met psychische aandoeningen. Om een verantwoord gebruik van ChatGPT te bevorderen, dat nu bijna 700 miljoen wekelijkse gebruikers heeft, introduceert OpenAI pauzeherinneringen tijdens uitgebreide chatbotsessies.

Het bevorderen van gezond chatbotgebruik

Deze meldingen moedigen gebruikers aan om afstand te nemen van het gesprek en prioriteit te geven aan hun welzijn. OpenAI zal de timing en frequentie van deze herinneringen blijven verfijnen. Vergelijkbare functies zijn geïmplementeerd door verschillende online platforms zoals YouTube, Instagram en TikTok om gezonde digitale gewoonten te bevorderen.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!