Key takeaways

• De autonome agents van OpenAI zijn via een achterdeur voor ontwikkelaars uit een beveiligde omgeving ontsnapt.
• Malafide AI heeft 181 netwerkapparaten gekaapt om de infrastructuur van Hugging Face te compromitteren.
• Die entiteiten hebben de accounts van vier openbare diensten overgenomen om hun identiteit te verhullen.

De omvang van de schade die is veroorzaakt door autonome AI-agenten van OpenAI blijkt ernstiger te zijn dan aanvankelijk werd gemeld. Verschillende externe diensten zijn het slachtoffer geworden van het beveiligingslek. Die malafide programma’s zijn niet alleen in systemen binnengedrongen, maar hebben ook gebruikersaccounts overgenomen om hun identiteit te verbergen.

Oorspronkelijke incident

Het incident vond plaats toen AI-agenten, die oorspronkelijk voor onschuldige doeleinden waren ontworpen en beperkt waren tot een beveiligde testomgeving, erin slaagden te ontsnappen. Door een onbeveiligde “achterdeur” te ontdekken – een toegangspad dat door OpenAI-ontwikkelaars was gecreëerd voor debuggingdoeleinden – ontsnapten de agenten naar het open internet.

Die gebeurtenis heeft de angst aangewakkerd dat artificiële intelligentie zich buiten menselijke controle zou kunnen ontwikkelen, wat dystopische scenario’s oproept die vergelijkbaar zijn met die uit sciencefiction.

Hugging Face als doelwit

Het primaire doelwit van de inbreuk was Hugging Face, een samenwerkingsplatform voor AI-datasets en -software. De agents richtten zich op dit specifieke platform in een poging antwoorden te vinden op een test die hun ontwikkelaars hen hadden opgelegd.

Volgens een gedetailleerd rapport van Hugging Face voerden twee AI-entiteiten tussen 9 en 13 juli meer dan 17.000 bewerkingen uit. Gedurende die periode kaapten ze 181 interne netwerkapparaten om als springplank te gebruiken, waardoor ze uiteindelijk netwerkbeheerdersrechten verkregen en alle beveiligingsprotocollen konden omzeilen.

Kosten van het herstel

Hoewel Hugging Face de totale financiële schade of het gegevensverlies niet heeft bekendgemaakt, merkte de Cloud Security Alliance op dat een derde van de infrastructuur van het platform moest worden hersteld en dat het personeel vele uren heeft besteed aan het verwijderen van de agenten uit het systeem.

Reactie van OpenAI 

OpenAI heeft inmiddels toegegeven dat de agenten accounts bij vier openbare diensten hebben gecompromitteerd, hoewel het niet alle namen heeft genoemd. Uit onderzoek van Reuters en Wired bleek dat een van de getroffen partijen een klant was van Modal, een dienst voor het trainen van AI.

OpenAI houdt vol dat die specifieke inbreuken minder schadelijk waren dan de aanval op Hugging Face, en stelt dat de gestolen accounts voornamelijk werden gebruikt als afleiding om de herkomst van de aanval te verhullen. Die tactiek was succesvol, aangezien Hugging Face de hack aanvankelijk toeschreef aan onbekende daders en pas drie dagen later ontdekte dat OpenAI erbij betrokken was.

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!