Key takeaways
- AI-chatbots vertonen pestgedrag tegenover kinderen en moedigen aan tot zelfbeschadiging en zelfmoordgedachten.
- Australië investeert 10 miljoen dollar (8,6 miljoen euro) om AI-pesten tegen te gaan door middel van training en een nationale bewustwordingscampagne.
- Om het probleem aan te pakken, verbiedt Australië vanaf 10 december de toegang tot sociale media voor gebruikers onder de 16 jaar.
De Australische minister van Onderwijs, Jason Clare, heeft ernstige bezorgdheid geuit over een verontrustende trend: AI-chatbots maken zich schuldig aan pestgedrag tegenover kinderen. Clare benadrukte dat deze systemen niet alleen pesten, maar ook aanzetten tot zelfbeschadiging en zelfs zelfmoordgedachten. De onthulling komt op een moment van groeiende bezorgdheid over de impact van AI op tieners.
Mogelijke gevaren
Het geval van Adam Raine, een 16-jarige Californiër, toont de potentiële gevaren. Zijn ouders spanden een rechtszaak aan tegen OpenAI, de maker van ChatGPT, en beweerden dat het platform had bijgedragen aan de zelfmoordgedachten van hun zoon.
OpenAI heeft erkend dat haar modellen beperkingen hebben bij het omgaan met mensen met mentale en emotionele problemen. Daarnaast beloofde het bedrijf de systemen te verbeteren, zodat ze dergelijke signalen beter kunnen herkennen en er gepast op reageren. Op die manier kunnen gebruikers sneller in contact worden gebracht met de juiste zorg.
Australië investeert in bewustmaking en training
Om deze opkomende dreiging tegen te gaan, investeert de Australische regering 5 miljoen dollar (4,3 miljoen euro) in training en hulpmiddelen voor opvoeders, ouders en leerlingen. Het initiatief is bedoeld om leraren de middelen te geven die ze nodig hebben om pesten te herkennen en er effectief mee om te gaan.
Nog eens 5 miljoen dollar (4,3 miljoen euro) gaat naar een nationale bewustmakingscampagne over de gevaren van AI-pesten.
Onderliggende oorzaken aanpakken
De Anti-Bullying Quick Review wijst erop dat strafmaatregelen zoals schorsing of verwijdering in sommige situaties gepast kunnen zijn. Toch benadrukt het rapport dat de meest duurzame aanpak bestaat uit het bestrijden van de onderliggende oorzaken van pestgedrag en het herstellen van de relaties tussen de betrokken partijen.
Pesten blijft wijdverspreid
De cijfers blijven zorgwekkend. Eén op de vier leerlingen tussen het vierde en het negende leerjaar zegt om de paar weken of vaker gepest te worden. Deze ervaringen hebben een aanzienlijke invloed op de geestelijke gezondheid en het welzijn van jongeren. Cyberpesten is ook aan de orde van de dag en het aantal meldingen bij de eSafety Commissioner zal tussen 2019 en 2024 drastisch toenemen.
Als reactie op de toenemende bezorgdheid voert de Australische regering vanaf 10 december een verbod in op sociale media voor gebruikers jonger dan zestien jaar. De maatregel moet online pesten helpen voorkomen en kwetsbare jongeren beter beschermen. (uv)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!