Key takeaways

• Oplichters kunnen iemands stem klonen met behulp van slechts een paar seconden audio.
• Miljoenen mensen kunnen het slachtoffer worden van AI-zwendel met stemherkenning, waarvan al honderden het slachtoffer zijn geworden.
• Een kwart van de respondenten meldde het afgelopen jaar doelwit te zijn geweest van AI-stemkloonzwendel.

Eerder deze week meldde Business AM dat een politiek adviseur een boete heeft gekregen van 6 miljoen dollar, of bijna 5,4 miljoen euro, voor het gebruik van AI om valse oproepen te creëren waarbij de stem van president Joe Biden geïmiteerd werd.

Starling Bank, een online kredietverstrekker in het Verenigd Koninkrijk, heeft gewaarschuwd voor de toenemende dreiging van AI-stemkloonzwendel. Deze zwendelpraktijken maken gebruik van het vermogen van kunstmatige intelligentie om de stem van een persoon na te maken met slechts een paar seconden audio, vaak afkomstig van online video’s. De oplichters kunnen deze stem vervolgens gebruiken om de stem van een persoon te kopiëren. Fraudeurs kunnen deze gekloonde stem vervolgens gebruiken om zich voor te doen als vrienden of familieleden en mensen geld te laten sturen.

Starling Bank schat dat miljoenen mensen het slachtoffer kunnen worden van deze zwendelpraktijken, die al honderden slachtoffers hebben gemaakt. Uit een recent onderzoek van de bank bleek dat meer dan een kwart van de respondenten aangaf het afgelopen jaar doelwit te zijn geweest van AI-stemkloonzwendel. Interessant genoeg kwam uit het onderzoek ook een zorgwekkend gebrek aan bewustzijn naar voren, waarbij 46 procent van de respondenten aangaf niet op de hoogte te zijn van dergelijke zwendelpraktijken.

De risico’s en gevolgen

Lisa Grahame, Chief Information Security Officer bij Starling Bank, benadrukte de kwetsbaarheid van mensen die onbewust hun stem online delen. Om deze dreiging tegen te gaan, stelt de bank voor om een “veilige zin” – een unieke en gemakkelijk te onthouden code – in te stellen met dierbaren. Deze zin kan worden gebruikt om de identiteit te verifiëren tijdens telefoongesprekken.

Het delen van de safe phrase via sms wordt afgeraden vanwege veiligheidsredenen. Als het op deze manier wordt gedeeld, moet het onmiddellijk worden verwijderd na bevestiging door de ontvanger. Nu AI-technologie steeds meer menselijke stemmen nabootst, neemt de bezorgdheid toe over de mogelijkheid van misbruik, waaronder onbevoegde toegang tot bankrekeningen en de verspreiding van verkeerde informatie. OpenAI, de maker van ChatGPT, heeft zijn eigen stemreplicatietool, Voice Engine, onthuld, maar heeft afgezien van publieke publicatie vanwege de inherente risico’s die verbonden zijn aan synthetische stemmanipulatie.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!