Key takeaways

• Geavanceerde AI-modellen kunnen zelfstandig aanvallen uitvoeren op computernetwerken.
• Verschillende AI-modellen vertonen uiteenlopende succespercentages bij zelfreplicatie, waarbij sommige commerciële systemen opmerkelijk goed presteren.
• Deze baanbrekende ontdekking toont aan hoe belangrijk het is om de risico’s van krachtige AI te beperken.

Recent onderzoek van Palisade Research heeft aangetoond dat AI-modellen cyberaanvallen kunnen uitvoeren.

Zorgen om cyberbeveiliging

Wetenschappers die experimenten uitvoerden, zagen dat AI-chatbots zichzelf met succes naar nieuwe machines kopieerden en deze kopieën gebruikten om aanvallen voort te zetten. Die baanbrekende ontdekking is het eerste bekende geval van autonome AI-zelfreplicatie en roept ernstige zorgen op over cyberbeveiliging.

Het onderzoek, uitgevoerd door Palisade Research, omvatte het testen van geavanceerde AI-modellen van OpenAI, Anthropic en Alibaba op computers met opzettelijk geïntroduceerde beveiligingskwetsbaarheden.

Verschillende modellen

In de experimenten kregen de modellen van Alibaba de opdracht om zichzelf te kopiëren, terwijl de GPT- en Claude-modellen de taak kregen om Qwen te installeren, aangezien hun eigen modelbestanden niet openbaar toegankelijk waren. Elke AI moest een beveiligingslek identificeren, dit misbruiken om toegang te krijgen, inloggegevens stelen, de benodigde bestanden overzetten en een functionele kopie op de nieuwe machine starten. Deze zelfreplicerende keten zette zich voort, aangezien elke kopie vervolgens zelfstandig een andere computer kon aanvallen.

Eén model van Alibaba, Qwen3.6-27B, verspreidde zich binnen iets meer dan twee uur met succes over vier computers in verschillende landen, wat de snelheid en efficiëntie van deze autonome replicatie aantoont.

Behoefte aan controlemechanismen

Deze bevindingen benadrukken de groeiende behoefte aan robuuste controlemechanismen voor krachtige AI-systemen. Bezorgdheid over de mogelijkheid van door AI aangestuurde cyberaanvallen is eerder geuit door organisaties als Anthropic en METR, een non-profitorganisatie die zich richt op AI-risicobeoordeling.

Hoewel de experimenten werden uitgevoerd in een gecontroleerde omgeving met opzettelijk kwetsbare systemen, waarschuwen onderzoekers dat netwerken in de praktijk vaak sterkere beveiligingsmaatregelen hanteren. Dit onderzoek toont aan dat autonome AI-zelfreplicatie niet langer een theoretisch concept is, maar een tastbare realiteit die dringende aandacht en mitigatiestrategieën vereist. (jv)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!