Een groot incident dat de nationale veiligheid bedreigt met een AI-deepfake video als boosdoener: het is dit jaar een van de ‘waanzinnige voorspellingen’ van Saxo, een jaarlijkse traditie waarbij de experten van de online broker enkele gedachte-experimenten uitwerken. Ook academici waarschuwen voor de doorbraak van de kwaadaardige deepfake.
In het nieuws: De wat uitdagende voorspellingen van Saxo proberen de trends te zien die in 2024 nog belangrijker gaan worden. Cybercriminelen, al dan niet staatsgestuurd, die artificiële intelligentie inzetten om militaire of andere gevoelige informatie te ontfutselen, is er een van. Dat zou bijvoorbeeld kunnen door gebruik te maken van door AI geperfectioneerde deepfakes van beelden, video’s of stemmen.
Het (fictieve) scenario: “In een spel met hoge inzet zet een criminele organisatie de meest misleidende deepfake met generatieve AI in die de wereld ooit heeft gezien”, schrijft Saxo in een van zijn voorspellingen. “Via phishing overtuigt ze een hooggeplaatste regeringsfunctionaris om uiterst geheime staatsinformatie van een ontwikkeld land prijs te geven. Dat veroorzaakt de grootste nationale veiligheidscrisis sinds de Tweede Wereldoorlog.”
Wat als? Mocht zo’n cyberaanval in de realiteit lukken, zou dat een tegenreactie op het vlak van regelgeving ontketenen, voorspellen de Saxo-trendwatchers. “In een historische zet om de catastrofale neveneffecten van generatieve AI aan te pakken, verklaren de VS en de EU dat alle content die op die manier wordt geproduceerd, het label ‘Made by AI’ moet dragen”, zo gaat hun gefantaseerde verhaal verder.
Verkiezingen in 2024
Zoom out: Het Saxo-denkexperiment past in een bredere bezorgdheid over malafide gebruik van AI in 2024, waarbij vooral gevreesd wordt voor beïnvloeding van de Amerikaanse presidentsverkiezingen.
- Volgens speltheoreticus Ethan Bueno de Mesquita (universiteit van Chicago) is het worst case scenario een deepfake video of foto die een presidentskandidaat afbeeldt in een compromitterende situatie, of bijvoorbeeld samen met de leider van een terreurorganisatie.
- “Gewetenloze actoren zullen waarschijnlijk deepfakes verspreiden, wellicht experimenteel getest en afgestemd voor maximale impact, daarbij niet gehinderd door normen van waarheidsvinding of publieke verantwoording”, zo voorspelt hij met enkele collega’s in een paper.
- De Amerikaanse presidentsverkiezingen vinden op 5 november 2024 plaats. Volgens de Chicago-professor bestaat het gevaar dat een door AI-gegenereerde “October surprise” veel kiezers kan overtuigen, zeker mochten de media geen tijd meer hebben om een en ander te factchecken.
- De Turkse verkiezingen eerder dit jaar gaven een voorproefje van hoe AI-clipjes ingezet kunnen worden, al waren niet alle valse beelden even professioneel gemaakt.
Wat ze zeggen: Bueno de Mesquita en zijn collega-academici roepen techbedrijven als Meta, TikTok of X, de media en de brede maatschappij op om zich voor te bereiden. “Je zou kunnen plannen om de verwachte verrassingsfakes van oktober snel te analyseren zodra ze opduiken, met een focus op de opvallendste die het meeste bereik hebben. Dat is vooral belangrijk in scenario’s waarin de inhoud wordt gegenereerd of gepromoot door een belangrijke politieke kandidaat.”
