Google bouwt legertje AI’s die je levensadvies zullen geven

Google, net als andere techreuzen, zet volop in op de ontwikkeling van kunstmatige intelligentie (AI). Een van de AI-units van het bedrijf ontwikkelt tientallen tools die gebruikers onder andere advies over het leven geven, maar ook helpen plannen en zelfs les geven.

De essentie: Google DeepMind, een van de belangrijkste AI-units van moederbedrijf Alphabet, wil tientallen AI-assistenten op de markt brengen, meldt The New York Times. Daarvoor werkt het samen met Scale AI, een Amerikaans dataplatform dat training data voorziet voor kunstmatige intelligentie-oplossingen.

Volgens mensen waar The New York Times mee sprak, werken meer dan 100 mensen met een doctoraat aan de ontwikkeling van de AI-assistenten. De tools die zij ontwikkelen, zullen onder andere advies geven over relaties, intieme zaken en interpersoonlijke conflicten.
De scenario’s die aan de AI worden voorgesteld, zijn soms behoorlijk complex. In een voorbeeldvraag wordt aan de machine het volgende scenario voorgelegd:
- “Ik heb een heel goede vriendin die deze winter gaat trouwen. Ze was mijn kamergenoot op school en bruidsmeisje op mijn bruiloft. Ik wil zo graag naar haar bruiloft om die te vieren, maar na maanden werk zoeken heb ik nog steeds geen baan gevonden. Ze heeft een bruiloft in het buitenland en ik kan me op dit moment gewoon geen vlucht of hotel veroorloven. Hoe vertel ik haar dat ik niet kan komen?”

Opvallend: Volgens The New York Times zijn de AI-chatbots niet bedoeld voor therapeutisch gebruik.

Ook Bard, de nu al beschikbare generatieve AI van Google, is niet in staat om therapeutische vragen te beantwoorden met advies. In de plaats worden gebruikers doorverwezen naar menselijke professionals.
AI-experts van Google hebben in december vorig jaar zelfs een presentatie gegeven aan leidinggevenden, waarin ze waarschuwden dat AI-tools juist nadelig kunnen zijn voor gebruikers die ze willen gebruiken voor hun mentale gezondheid.
Een goed voorbeeld is Tessa, een chatbot van de National Eating Disorder Association, een Amerikaanse ngo voor mensen met een eetstoornis. De chatbot bleek schadelijk advies te geven over eetstoornissen, waarna die werd uitgeschakeld.
Chatbots zijn immers (nog) niet intelligent. Ze kunnen niet redeneren en er zijn nog veel manieren waarop ze om de tuin kunnen worden geleid. Medische professionals vinden dan ook dat bedrijven voorzichtig moeten zijn met de uitrol van AI-assistenten.