Een app van de Chinese microblogsite Weibo analyseert het woordgebruik in persoonlijke berichten om suïcidale neigingen te detecteren.
De Tree Hole bot scant de berichten op bepaalde woordcombinaties. Hij slaat bijvoorbeeld alarm als ‘wil niet’ en ‘leven’ in dezelfde zin voorkomt. Bij 82 procent van de gevallen heeft het programma het bij het rechte eind, zegt Zhisheng Huang, het brein achter de applicatie en professor AI aan de Vrije Universiteit Amsterdam.
De app geeft de berichten een ranking van 1 tot 10. Enkel de berichten met de hoogste prioriteit worden aan het team van Weibo gerapporteerd. De bot signaleert gemiddeld zes tot tien comments per dag als problematisch. Volgens Huang heeft hij zo al 1.000 zelfdodingen kunnen voorkomen.
De ‘Tree Hole bot’ is vernoemd naar een Chinees gebruik – gepopulariseerd door de films In the mood for Love en 2046 – om in de gaten van de bomen geheimen te fluisteren en zo psychologisch leed te verminderen.
Meest voorkomende doodsoorzaak
Zelfdoding is de meest voorkomende doodsoorzaak tussen 15- en 35-jarigen in China. De problematiek kwam onder de aandacht in 2012 toen Ma Jie, een Chinese studente, een bericht op Weibo achterliet voor ze uit het leven stapte. Over de jaren heen hebben gebruikers er al meer dan een miljoen keer op gereageerd. De post werd een safe space voor Chinezen om hun hart te luchten.
Chatbot
In de toekomst wil het bedrijf ook een chatrobot lanceren die psychologische bijstand biedt. De bot voor therapeutische steun zal geprogrammeerd worden om gepast te reageren op psychisch kwetsbare persoonlijkheden.
Maar Li Jiay, consultant bij Weibo, zei aan de South China Morning Post dat het niet de bedoeling was om psychologen te vervangen. Online conversaties zijn niet zo effectief als face-to-face-gesprekken, klinkt het.
Opkomende technologie
Artificiële intelligentie (AI) om zelfdoding tegen te gaan is niet nieuw. ook Pinterest, Google en Facebook scannen hun content op suïcidale neigingen. De manier waarop – met een semantische analyse – is dat wel. Facebook voedt bijvoorbeeld zijn algoritme met waargebeurde cases om suïcidale berichten te identificeren.
Daarnaast is er een team aan Stanford University bezig, onder leiding van Fei-Fei Li, met gezichtsherkenning en taalverwerkingstechnologie om zelfdoding te detecteren. In China zelf hebben start-ups WonderLab en Huayuntong programma’s ontwikkeld om de mentale gezondheid van gevangenen te monitoren.
Wie met vragen zit rond zelfdoding kan terecht op de Zelfmoordlijn, op het gratis nummer 1813, of op www.zelfmoord1813.be.
Lees ook:
Bedrijf werkt aan game om depressie te bestrijden
Chinese cameratechnologie met gezichtsherkenning verovert de wereld
