• Willems: “Op dit moment valt de invloed van AI op cybersecurity nog wel mee, maar je ziet toch wel een aantal bedreigingen die we niet zo gewoon zijn. Een element is bijvoorbeeld het verbeteren van de taal in de phishing e-mails die je binnenkrijgt. Je kan tegenwoordig nog amper zien dat de e-mail werd gecreëerd om geld afhandig te maken.”
• “Een andere soort bedreiging is de prompt injection-aanval. Dat zijn aanvallen waardoor je de artificiële robot, ChatGPT of Bing bijvoorbeeld, gaat wijzigen in een soort van social engineer. Het AI-systeem gaat proberen om jou een aantal dingen afhandig te maken.”
• “Door een rare combinatie van prompts, dingen die je ingeeft in ChatGPT of Bing, gaat de AI zich ineens anders gedragen. Hij gaat proberen jou aan te vallen door je creditcardgegevens te vragen en later een toestel te kopen op jouw naam”, waarschuwt Willems.

Het limiteren van AI

• “ChatGPT, Bing of Bard zijn allemaal taalmodellen die heel geëvolueerd zijn. Die probeert men nu wel wat te limiteren, zodat een aantal dingen niet meer kunnen gebeuren. Dat helemaal dichtschuiven kan natuurlijk niet, dus het hangt er vanaf hoe het evolueert in de toekomst.”
• “We geven ontzettend veel van onze data weg. Die wordt hergebruikt door de taalmodellen en de AI. Net doordat we zoveel weggeven, worden zij slimmer. Maar daar wringt het schoentje: het zou best kunnen dat een aantal stukjes van die gegevens ergens anders terecht komen. Daar moeten we voorzichtig mee zijn in de toekomst”, besluit de expert.

(nd)