Het nieuws: “Nu de mogelijkheden van LLM’s (grote taalmodellen) zoals ChatGPT actief worden verbeterd, biedt de mogelijke exploitatie van dit soort AI-systemen door criminelen een grimmig vooruitzicht”, aldus Europol op maandag bij de presentatie van zijn eerste tech-rapport.

• Het rapport van de politiedienst wees op het schadelijke gebruik van chatbots op drie gebieden:
  • Fraude en social engineering: Het vermogen van ChatGPT om zeer realistische tekst en spraakpatronen op te stellen maakt het een nuttig instrument voor phishingdoeleinden. Vanwege de automatisering kunnen oplichters hun activiteiten flink opschalen.
    • “De context van de phishing-e-mail kan eenvoudig worden aangepast aan de behoeften van de crimineel. ChatGPT kan criminelen daarom nieuwe mogelijkheden bieden, met name voor misdrijven waarbij social engineering een rol speelt, gezien de mogelijkheden om in de context op berichten te reageren en een specifieke schrijfstijl aan te nemen”, aldus Europol.
  • Cybercrime: Chatbots stellen criminelen in staat om zeer eenvoudig malware te schrijven. Voor een potentiële cyberboef met weinig technische kennis is dit een hulpmiddel van onschatbare waarde om kwaadaardige code te produceren.
  • Desinformatie en propaganda: Het vermogen van ChatGPT om snel en op grote schaal authentiek klinkende nepberichten te produceren, maakt het ook een ideaal hulpmiddel voor de verspreiding propaganda en desinformatie. Met behulp van chatbots hebben actoren toegang tot software die dagelijks duizenden nieuwsartikelen kan genereren en verspreiden.

Verfijnde malware

De achtergrond: In januari waarschuwden ook onderzoekers van cyberbeveiligingsbedrijf CyberArk dat criminele groeperingen in toenemende mate kunstmatige intelligentie gebruiken voor het schrijven van verfijnde malware.

• “Onderzoekers hebben vastgesteld dat mensen met ChatGPT malware kunnen maken die polymorf van aard is en niet de gebruikelijke computercodering bevat die bij antivirusprogramma’s bekend zijn”, aldus Maria-Kristina Hayden, CEO van cyberbeveiligingsbedrijf OUTFOXM, aan Cybernews.
• Het bleek volgens CyberArk voor kwaadwillenden gemakkelijk om de inhoudsfilter van ChatGPT, die misbruik door gebruikers moet voorkomen, te omzeilen.
• Ook deskundigen van Checkpoint, een onderzoeksbureau op het gebied van digitale veiligheid, waarschuwen voor het clandestiene gebruik AI-tools. Medewerkers zagen dat er op verschillende hackersfora handleidingen voor het gebruik van de AI-tool werden aangeboden.

(evb)