Key takeaways

• Dit zou het eerste gedocumenteerde geval zijn waarbij AI wordt gebruikt om een hackoperatie grotendeels te automatiseren.
• Hoewel de omvang van de campagne beperkt was, richtte deze zich met succes op ongeveer 30 mensen in verschillende sectoren.
• Het mogelijke misbruik van AI-agenten, die in staat zijn om toegang te krijgen tot IT-tools en deze te gebruiken, kan de schaal en effectiviteit van cyberaanvallen aanzienlijk vergroten.

Onderzoekers van Anthropic, een bedrijf gespecialiseerd in AI, hebben een zorgwekkende ontwikkeling in de cyberbeveiliging blootgelegd. Dat meldt het bedrijf in een blogpost. Ze stelden een hackcampagne vast die vermoedelijk werd aangestuurd door artificiële intelligentie en gelinkt is aan de Chinese overheid. Volgens Anthropic gaat het om het eerste gedocumenteerde geval waarbij AI een hackoperatie grotendeels automatiseert.

Gevolgen voor cyberveiligheid

De onderzoekers uitten hun bezorgdheid over de mate waarin AI onderdelen van de cyberaanval automatiseerde, en merkten op dat het gebruik van AI in cyberoperaties al zorgwekkend was. De snelheid en omvang van de implementatie in dit geval vonden zij echter bijzonder alarmerend.

De campagne had een relatief beperkte reikwijdte en richtte zich op ongeveer 30 mensen uit sectoren zoals technologie, financiën, chemie en administratie. Anthropic greep in september in, stopte de operatie en bracht de betrokken personen op de hoogte. Hoewel de hackers beperkte successen boekten, wees Anthropic erop dat de toenemende integratie van AI in alledaagse taken het ook een potentieel wapen maakt voor kwaadwillende actoren die verbonden zijn aan buitenlandse entiteiten.

Mogelijkheid tot misbruik

Anthropic, bekend om zijn generatieve AI-chatbot Claude, is een van een aantal technologiebedrijven die AI-agenten ontwikkelen die niet alleen gesprekken kunnen voeren, maar ook namens gebruikers toegang hebben tot IT-tools en deze kunnen gebruiken. Hoewel deze “agents” een enorm potentieel bieden voor het verbeteren van de productiviteit en het stroomlijnen van het werk, waarschuwen de onderzoekers dat misbruik ervan de schaal en effectiviteit van cyberaanvallen aanzienlijk zou kunnen vergroten. Die trend zal volgens hen alleen maar toenemen. (jv)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!