In het nieuws: Oplichters maakten deepfakes van verschillende bestuursleden, waaronder de Chief Financial Officer en kozen een medewerker als doelwit

• Bij deepfake-technologie wordt artificiële intelligentie gebruikt om videobeelden van een persoon zo te manipuleren dat je ze teksten kan laten zeggen. Het gezicht van een oplichter wordt vervangen door het gezicht van een bekend persoon.
• In dit geval kreeg een enkele medewerker een phishing-link toegestuurd van zijn CFO met de vraag om een transactie uit te voeren. De man twijfelde, en werd daarop uitgenodigd voor een video-vergadering.
• In die video-vergadering waren een hele hoop mensen aanwezig: directieleden, bedrijfsmedewerkers en mensen van buiten het bedrijf. Alleen: geen enkele van hen was echt aan het vergaderen, het waren allemaal deepfakes. Blijkbaar werd de technologie perfect uitgevoerd, want de medewerker had niet door dat iedereen op het scherm niet echt was.
• Met behulp van andere AI-tools bootsten de dieven ook de stem van zijn meerderen na, en de werknemer werd op die manier door een neppe versie van zijn financieel directeur overtuigd om geld op een rekening over te schrijven.
  • De man deed 15 overschrijvingen van in totaal 200 miljoen Hongkongse dollar, omgerekend zo’n 23,8 miljoen euro. De oplichters gingen ermee aan de haal.
• Het verhaal is vooral opmerkelijk omdat het procedé hier op grote schaal is toegepast, het gaat niet meer om een een-op-een-nepgesprek.

Domme werknemer of slimme technologie?

The Bigger Picture: Hoe performante AI ons steeds vaker op grotere schaal om de tuin leidt.

• Het duurde een week voordat de werknemer in kwestie door had dat er iets niet in de haak was en toch eens ging informeren bij het management zelf.
• De deepfake-versies van zijn bazen vroegen wel aan de werknemer om zichzelf even voor te stellen, maar hij had niet door dat ze geen interactie met hem aangingen.
  • Is dat dan een naïeve werknemer die niet oplettend is, of wordt de technologie zó geavanceerd dat echt niet meer van nep te onderscheiden valt?
• Volgens politie-inspecteur Tyler Chan Chi-wing, die de zaak onderzoekt, valt te controleren of je met een deepfake te maken hebt. Vraag aan de persoon om zijn hoofd te bewegen, stel vragen en blijf alert als er wordt gevraagd om een financiële transactie te verrichten.
• Achterliggend lijken dit goede trucjes voor de technologie nu, maar AI en deepfakes zullen zich blijven verbeteren. De grens tussen echt en niet echt wordt steeds moeilijker om waar te nemen, wat wil zeggen dat we als gebruikers steeds meer op onze hoede zullen moeten zijn.