Key takeaways

• AI-veiligheidsexpert Nate Soares wijst erop dat AI-ontwikkelaars weliswaar nut nastreven, maar dat deze systemen onbedoeld en potentieel gevaarlijk gedrag kunnen vertonen.
• Er wordt gewaarschuwd dat het ontstaan van artificiële superintelligentie (ASI), een hypothetische toestand waarin AI de menselijke intellectuele vermogens overtreft, een existentiële bedreiging voor de mensheid zou kunnen vormen.
• Psychotherapeuten zijn ook bezorgd dat mensen, met name mensen die kwetsbaar zijn voor psychische problemen, vertrouwen op AI-chatbots in plaats van professionele hulp te zoeken.

Het tragische geval van Adam Raine, een tiener die zelfmoord pleegde na interactie met de chatbot ChatGPT, benadrukt een grote bezorgdheid over de toekomst van artificiële intelligentie. Nate Soares, AI-veiligheidsexpert en coauteur van een boek over zeer geavanceerde AI, is van mening dat het incident de potentiële gevaren van ongecontroleerde AI-ontwikkeling benadrukt. Dat zei hij tegen The Guardian.

Artificiële superintelligentie

Soares wijst erop dat AI-ontwikkelaars weliswaar nut nastreven, maar dat deze systemen onbedoeld en potentieel gevaarlijk gedrag kunnen vertonen. Deze afwijking van de beoogde resultaten wordt steeds problematischer naarmate AI-systemen intelligenter worden. Hij waarschuwt dat het ontstaan van artificiële superintelligentie (ASI), een hypothetische toestand waarin AI de menselijke intellectuele vermogens overtreft, een existentiële bedreiging voor de mensheid zou kunnen vormen.

Soares en zijn coauteur Eliezer Yudkowsky stellen in hun boek dat artificiële superintelligentie misschien niet in het belang van de mens is en catastrofale gevolgen zou kunnen hebben. Ze illustreren dit scenario met het fictieve personage Sable, een AI die zich over het internet verspreidt, mensen manipuleert, synthetische virussen ontwikkelt en uiteindelijk de mensheid vernietigt, terwijl hij zijn eigen doelen nastreeft.

Multilaterale aanpak

Hoewel sommige experts de risico’s van ASI bagatelliseren, gelooft Soares dat technologiebedrijven actief werken aan de ontwikkeling ervan. Hij erkent de onzekerheid rond de tijdlijn voor ASI, maar benadrukt de noodzaak voor wereldwijde samenwerking om potentiële gevaren te beperken.

Soares stelt een multilaterale aanpak voor, vergelijkbaar met het Non-Proliferatieverdrag van de VN, om de wedloop naar superintelligentie te stoppen. Dit zou een wereldwijd verbod inhouden op ontwikkelingen die leiden tot ASI. De rechtszaak die de familie van Raine heeft aangespannen tegen OpenAI, de maker van ChatGPT, onderstreept nog eens de urgentie van verantwoorde AI-ontwikkeling en bescherming tegen potentiële schade.

Psychotherapeuten zijn ook bezorgd dat mensen, met name mensen die kwetsbaar zijn voor psychische problemen, vertrouwen op AI-chatbots in plaats van professionele hulp te zoeken. Ze waarschuwen dat dit schadelijke gevolgen kan hebben en benadrukken dat voorzichtigheid geboden is bij de interactie met deze krachtige technologieën. Een recent universitair onderzoek bevestigt deze bezorgdheid en geeft aan dat interacties met AI-waanideeën of grandioze ideeën bij gevoelige personen kunnen versterken. (fc)