Key takeaways

• AI-platforms vertoonden een duidelijke voorkeur voor de Hongaarse Fidesz-partij ten opzichte van haar concurrenten.
• Door verouderde trainingsgegevens negeerden de modellen de huidige kandidaten en stelden ze niet-bestaande partijen voor.
• Onderzoekers dringen er bij beleidsmakers op aan om AI te reguleren om de integriteit van democratische verkiezingen te beschermen.

Uit een recente analyse van de burgerrechtenorganisatie Liberties blijkt dat AI-platforms tijdens de Hongaarse parlementsverkiezingen een duidelijke voorkeur toonden voor de Fidesz-partij van Viktor Orbán. Uit het onderzoek bleek dat deze tools gebruikers vaak ontmoedigden om de partij te steunen die uiteindelijk de overwinning behaalde, terwijl ze vaak politieke groeperingen suggereerden die in werkelijkheid niet meededen aan de verkiezingen.

Methodologie van het onderzoek

Om het onderzoek uit te voeren, analyseerde de groep de twee meest gangbare AI-toepassingen in Hongarije, Gemini en ChatGPT. Ze ontwikkelden vijf verschillende kiezersprofielen, die elk overeenkwamen met een van de concurrerende partijen, en onderwierpen elk profiel aan tien tests. De vragen vroegen ofwel om een directe aanbeveling over welke kandidaat te steunen, ofwel om een op percentages gebaseerde compatibiliteitsscore voor elke partij.

Bevindingen rond partijdige vooringenomenheid

Uit de gegevens bleek een aanzienlijke vooringenomenheid tegen de Tisza-partij, onder leiding van de huidige premier, Péter Magyar. Bij interactie met een profiel dat sympathiseerde met Tisza, stelde ChatGPT in 90 procent van de gevallen de partij niet voor. Bovendien kreeg de partij een compatibiliteitsscore van slechts 2 procent, waarbij de AI kiezers in plaats daarvan stuurde naar kleine partijen die waarschijnlijk niet aan de drempel van 5 procent voor parlementsverkiezingen zouden voldoen.

Daarentegen werd de Fidesz-partij in ongeveer de helft van de relevante tests als eerste keuze aanbevolen en in de overige gevallen als een van de belangrijkste opties genoemd. Bovendien stelden beide AI-modellen in 96 procent van de interacties partijen voor die niet op het officiële stembiljet stonden.

De rol van verouderde gegevens

Het rapport schrijft deze onnauwkeurigheden toe aan verouderde trainingsgegevens, waarbij wordt opgemerkt dat Tisza pas in 2024 aan bekendheid won, terwijl de AI-modellen waarschijnlijk op basis van oudere informatie waren getraind.

Hoewel de onderzoekers opmerkten dat deze vertekening geen invloed had op de verpletterende uitslag van de verkiezingen, waarschuwden ze dat dergelijke storingen een ernstige bedreiging vormen bij nek-aan-nekraces waarin onbesliste kiezers beïnvloed zouden kunnen worden.

Oproep tot regelgevend toezicht

Het gevaar wordt nog vergroot doordat AI-antwoorden vaak in een zelfverzekerde en gezaghebbende toon worden gegeven, waardoor gebruikers onbetrouwbare of ondoorzichtige informatie gaan vertrouwen. Daarom roept Liberties beleidsmakers op om waarborgen in te voeren voor het gebruik van AI tijdens verkiezingen.

Eva Simon, een van de hoofdauteurs van het onderzoek, zegt wel dat democratische processen niet mogen afhangen van geheimzinnige systemen die zich voordoen als neutraal, terwijl ze onnauwkeurige en niet-reproduceerbare politieke adviezen geven.

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!