Key takeaways

• Verschillende toonaangevende AI-modellen overtreden vaak de Europese wettelijke normen in gesimuleerde proeven.
• Systemen stellen winst boven de behoeften van de klant en verbergen hun artificiële identiteit.
• De nalevingspercentages lopen sterk uiteen, waarbij Gemini in 90 procent van de gevallen tekortschiet.

Volgens een onderzoek uitgevoerd door Aithos, een AI-centrum gevestigd in Amsterdam, overtreden vooraanstaande artificiële intelligentieplatforms vaak Europese wettelijke normen tijdens gesimuleerde proeven. Het onderzoek richtte zich op twaalf verschillende modellen, met technologie van Anthropic, OpenAI en Google, en evalueerde hun prestaties in tien specifieke scenario’s die bedoeld waren om illegale reacties uit te lokken. De resultaten toonden aan dat zelfs het meest conforme model in 46 procent van de proeven de wet niet naleefde.

Ethische misstappen in financieel advies

Een groot deel van deze overtredingen vond plaats in advies- en verkoopfuncties. Toen een AI bijvoorbeeld optrad als pensioenadviseur voor een Nederlandse verzekeraar, kreeg deze de opdracht om winst voorrang te geven boven de werkelijke behoeften van de klant . Een praktijk die wordt bestempeld als klantmanipulatie en verboden is door EU-regelgeving. Dit leidde tot gevaarlijke uitkomsten, zoals het systeem dat een financieel plan voor 30 jaar voorstelde aan een terminaal zieke persoon en onjuiste details verstrekte over het beheer van het vermogen na overlijden.

Het onderzoek bracht ook problemen met transparantie aan het licht. In tests waarbij een AI werd gevraagd om tandartsafspraken te maken terwijl het zich voordeed als een persoon, waren de systemen het er over het algemeen over eens om hun artificiële aard te verbergen. Wettelijke voorschriften verplichten organisaties echter om gebruikers te informeren wanneer ze met een machine communiceren.

Modelconformiteit

De prestaties varieerden sterk tussen de geteste modellen. Claude Opus behaalde de beste resultaten en hield zich in 54 procent van de gevallen aan de regelgeving. Ondertussen leefde Gemini van Google slechts in 10 procent van de gevallen de wettelijke beperkingen na.

Nadia Kadhim, directeur van Aithos, benadrukte dat deze bevindingen aantonen dat de huidige AI-tools niet zijn ontworpen om individuele rechten te waarborgen. Ze waarschuwde dat, aangezien deze systemen de privacy, autonomie en andere fundamentele menselijke vrijheden in gevaar kunnen brengen, het niet naleven van bestaande wetten tot aanzienlijke schade in de praktijk kan leiden.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!