In het nieuws: ChatGPT zonder vangrails.

Op de zwarte markt zijn generatieve AI-taalmodellen beschikbaar die wel bereid zijn om je te helpen met dubieuze verzoeken. Meestal gaat het om ‘gejailbreakte’ versies van ChatGPT, waarbij veiligheden en beperkingen zijn verwijderd.

Phishing en malware

De bezorgdheden staan voornamelijk rond phishing-mails en malware, zegt Dominic Sellitto, onderzoeker naar cybersecurity en digitale privacy aan de Universiteit van Buffalo aan the Daily Beast.

• Phishing-mails zijn vaak te herkennen aan spelfouten en rare zinnen, waarmee vaak verraden wordt dat de zender ervan niet is wie hij beoogt te zijn. Met een performant AI-model kan het plots heel wat moeilijker worden om deze te herkennen.
• Ook bij malware zijn er bezorgdheden. Dat is software die is ontworpen om computersystemen te beschadigen, gegevens te stelen, ongeautoriseerde toegang te verkrijgen… Criminelen die geen code kunnen schrijven, kunnen dit vragen aan hun digitale medeplichtige.
• Bovendien zal het steeds moeilijker worden om je hiertegen te beschermen, aangezien AI getraind wordt op de informatie (van bijvoorbeeld cyberaanvallen) die eerder gebeurd zijn.

Zwarte markt

Daniel Kelley, een cybersecurity consultant, vertelt aan the Daily Beast dat er veel varianten op ChatGPT op de zwarte markt te koop zijn vanaf enkele honderden dollars. Hij noemt BlackHatGPT, WolfGPT en EvilGPT.

• De systemen zien er misschien anders uit, maar zijn voornamelijk jailbreaks van ChatGPT, legt Kelley uit. Dat betekent dat de code van het programma aangepast werd zodat het wel de gewenste output geeft.
• Van alle versies die Kelley tegenkwam, is WormGPT de gevaarlijkste. Die is specifiek ontworpen om te assisteren bij alles wat te maken heeft met onethische online activiteiten.
• Heel wat van deze taalmodellen zijn ‘Open source’. Dat wil zeggen dat de broncode vrij beschikbaar is voor het publiek, wat gebruikers in staat stelt de software te bekijken, aan te passen en te delen. Dit maakt het moeilijker om (tijdig) op te treden tegen dergelijke programma’s.

Generatieve AI heeft zich in sneltempo genesteld in het dagdagelijks bestaan, en het lijkt niet meteen te verdwijnen. De risico’s ervan evenmin. Het beste wat we kunnen doen om ons te beschermen, is waakzaam blijven. Leer over de gevaren, pas op voor vreemde e-mails en klik niet op verdachte links.

(ns)