Key takeaways

• Een consultant uit Louisiana heeft een boete van 6 miljoen dollar gekregen voor het gebruik van AI om valse oproepen te maken waarin hij zich voordeed als president Joe Biden.
• De consultant, Steven Kramer, gaf toe 500 dollar te hebben betaald om de oproepen naar kiezers te sturen en beweerde dat hij de potentiële gevaren van AI in politieke campagnes wilde benadrukken.
• Kramer moet de boete binnen 30 dagen betalen of wordt doorverwezen naar het Ministerie van Justitie voor inning.

Een politiek adviseur heeft een boete gekregen van 6 miljoen dollar, of bijna 5,4 miljoen euro, voor het gebruik van artificiële intelligentie om valse oproepen te creëren die zich voordeden als president Joe Biden. Steven Kramer, een consultant uit Louisiana die werkte voor afgevaardigde Dean Phillips, een uitdager van Biden tijdens de Democratische voorverkiezing, werd in New Hampshire aangeklaagd voor oproepen in januari. In de telefoontjes werd Biden valselijk afgeschilderd terwijl hij de kiezers in New Hampshire opriep om pas in november deel te nemen aan de Democratische voorverkiezing in de staat.

Kramer gaf toe 500 dollar te hebben betaald om de oproepen naar kiezers te laten sturen en beweerde dat hij de potentiële gevaren van AI in politieke campagnes wilde benadrukken. De Federal Communications Commission (FCC) bevestigde dat de oproepen gebruik maakten van AI-gegenereerde deepfake audiotechnologie, ontworpen om te klinken als de stem van Biden. De overtreding van de FCC-regels die onjuiste nummerweergave verbieden, leidde tot de boete.

Boetes en straffen

Kramer moet de boete binnen 30 dagen betalen of wordt doorverwezen naar het Ministerie van Justitie voor inning. De voorzitter van de FCC, Jessica Rosenworcel, benadrukte het gemak en de betaalbaarheid van het gebruik van AI om stemmen te klonen en desinformatie te verspreiden, waarbij ze de nadruk legde op het potentieel van deze technologie om zich illegaal met verkiezingen te bemoeien. Ze benadrukte dat het belangrijk is om dergelijke frauduleuze activiteiten snel aan te pakken en alle beschikbare middelen in te zetten om ze te stoppen.

In een niet-verwante ontwikkeling stemde Lingo Telecom in augustus in met een boete van 1 miljoen dollar nadat de FCC had vastgesteld dat zij de valse New Hampshire-robocalls uitzonden. Als onderdeel van de schikking is Lingo verplicht om een nalevingsplan te implementeren dat ervoor zorgt dat de FCC-regels voor verificatie van beller-ID strikt worden nageleefd.

Toekomstige maatregelen

De FCC heeft in juli ook gestemd voor een voorstel voor verplichte openbaarmaking van AI-gegenereerde inhoud in politieke advertenties op radio en televisie. Dit voorstel wordt nog steeds overwogen.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!