Cybersecurity-expert waarschuwt voor ‘prompt injection’, een nieuwe bedreiging door AI

Artificiële intelligentie (AI) kan helaas ook ingezet worden voor cybercriminaliteit. Eddy Willems, Security Evangelist en Global Security Officer bij G DATA CyberDefense, waarschuwt voor een nieuwe bedreiging: de prompt injection-aanval.


Beluister hier het volledige interview met Eddy Willems:


Waarom is dit belangrijk?

De wereld omarmt AI, ook de cybercriminelen. Doordat AI steeds beter wordt, is het lastiger om aanvallen af te weren. Willems pleit voor meer sensibilisering.
  • Willems: “Op dit moment valt de invloed van AI op cybersecurity nog wel mee, maar je ziet toch wel een aantal bedreigingen die we niet zo gewoon zijn. Een element is bijvoorbeeld het verbeteren van de taal in de phishing e-mails die je binnenkrijgt. Je kan tegenwoordig nog amper zien dat de e-mail werd gecreëerd om geld afhandig te maken.”
  • “Een andere soort bedreiging is de prompt injection-aanval. Dat zijn aanvallen waardoor je de artificiële robot, ChatGPT of Bing bijvoorbeeld, gaat wijzigen in een soort van social engineer. Het AI-systeem gaat proberen om jou een aantal dingen afhandig te maken.”
  • “Door een rare combinatie van prompts, dingen die je ingeeft in ChatGPT of Bing, gaat de AI zich ineens anders gedragen. Hij gaat proberen jou aan te vallen door je creditcardgegevens te vragen en later een toestel te kopen op jouw naam”, waarschuwt Willems.

Het limiteren van AI

  • “ChatGPT, Bing of Bard zijn allemaal taalmodellen die heel geëvolueerd zijn. Die probeert men nu wel wat te limiteren, zodat een aantal dingen niet meer kunnen gebeuren. Dat helemaal dichtschuiven kan natuurlijk niet, dus het hangt er vanaf hoe het evolueert in de toekomst.”
  • “We geven ontzettend veel van onze data weg. Die wordt hergebruikt door de taalmodellen en de AI. Net doordat we zoveel weggeven, worden zij slimmer. Maar daar wringt het schoentje: het zou best kunnen dat een aantal stukjes van die gegevens ergens anders terecht komen. Daar moeten we voorzichtig mee zijn in de toekomst”, besluit de expert.

(nd)

Meer

Ontvang de Business AM nieuwsbrieven

De wereld verandert snel en voor je het weet, hol je achter de feiten aan. Wees mee met verandering, wees mee met Business AM. Schrijf je in op onze nieuwsbrieven en houd de vinger aan de pols.