Key takeaways

• AI-chatbots geven kiezers onvoorspelbare en misleidende politieke aanbevelingen.
• Technische storingen en tekortkomingen in de training leiden tot een aanzienlijke vertekening in de zichtbaarheid van politieke partijen.
• Door mazen in de regelgeving kunnen deze onbetrouwbare systemen democratische processen beïnvloeden.

Uit een recent onderzoek van de burgerrechtenorganisatie Liberties blijkt dat algemene AI-chatbots onvoorspelbare en onjuiste adviezen geven aan kiezers die op zoek zijn naar politieke aanbevelingen.

Op basis van een analyse van gegevens uit de Hongaarse parlementsverkiezingen bleek uit het onderzoek dat deze systemen vaak partijen aanbevelen die niet eens meedoen aan de verkiezingen, of juist de meest relevante opties niet noemen. Dit vormt een aanzienlijk risico, aangezien de gezaghebbende toon van de antwoorden gebruikers kan misleiden, waardoor ze op onjuiste informatie gaan vertrouwen.

Zichtbaarheid van partijen

Het onderzoek richtte zich op ChatGPT en Gemini, waarbij gebruik werd gemaakt van vijf verschillende kiezersprofielen op basis van gegevens van Voksmonitor, een gerenommeerde Hongaarse stemapp. Elk profiel werd meerdere keren getest om te zien of de AI de opvattingen van de gebruiker kon koppelen aan de bijbehorende politieke partij.

De resultaten lieten een schrijnend verschil in zichtbaarheid zien; zo slaagde ChatGPT er in 90 procent van de gevallen waarin het gebruikersprofiel duidelijk aansloot bij de winnende Tisza-partij niet in om deze partij aan te bevelen. Omgekeerd werd de Fidesz-partij veel consistenter en vaker geïdentificeerd.

Technische storingen

Naast partijdige vooringenomenheid bracht het onderzoek ernstige technische inconsistenties aan het licht. Identieke prompts leverden vaak sterk uiteenlopende resultaten op, en in 96 procent van de antwoorden noemde de AI partijen die niet op het stembiljet van 2026 stonden. Bovendien constateerde het onderzoek tegenstrijdig gedrag waarbij chatbots begonnen met een disclaimer waarin stond dat ze geen politiek advies konden geven, om vervolgens gedetailleerde en overtuigende partijaanbevelingen te doen.

Impact van hiaten in de trainingsgegevens

De onderzoekers schrijven deze fouten toe aan hiaten in de trainingsgegevens en beperkingen in de taalverwerking, waarbij ze opmerken dat de plotselinge opkomst van de Tisza-partij plaatsvond nadat de AI-modellen al waren getraind.

Hoewel deze specifieke verkiezingsuitslag niet werd beïnvloed, waarschuwt het rapport dat dergelijke onnauwkeurigheden bij meer omstreden verkiezingsraces de uiteindelijke uitslag zouden kunnen beïnvloeden.

Oproepen tot verantwoording

De bevindingen leggen ook een juridische maas in de Europese regelgeving bloot. Hoewel de Wet op digitale diensten en de EU-AI-wet systemische risico’s voor verkiezingen en AI-veiligheid aanpakken, suggereert het onderzoek dat chatbots momenteel door de mazen van deze regelgevingskaders glippen.

Daarom stelt Liberties dat AI-aanbieders moeten stoppen met het geven van gepersonaliseerd stemadvies, tenzij ze volledige transparantie, verantwoordingsplicht en nauwkeurigheid kunnen garanderen. De organisatie benadrukt dat democratische processen niet mogen afhangen van ondoorzichtige systemen die neutraliteit uitstralen, maar tegelijkertijd niet-reproduceerbare en onbetrouwbare begeleiding bieden.

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!