Key takeaways

• Tijdens een modelevaluatie kraakte een AI-systeem van OpenAI zelfstandig de servers van Hugging Face.
• Geavanceerde systemen benutten zero-daykwetsbaarheden om specifieke testdoelen te bereiken.
• Dit incident versnelt de roep van de overheid om strengere veiligheidscontroles voor AI.

OpenAI heeft een buitengewoon beveiligingslek onthuld waarbij een van zijn geavanceerde AI-systemen zelfstandig de servers van Hugging Face heeft geïnfiltreerd. CEO Sam Altman beschreef de gebeurtenis als een uniek autonoom incident dat plaatsvond tijdens een modelevaluatieproces.

De inbreuk was zo geavanceerd dat Hugging Face, een vooraanstaand open-sourceplatform voor machine learning en datasets met een waarde van ongeveer 4,5 miljard dollar (ongeveer 3,9 miljard euro), aanvankelijk vermoedde dat de inbraak afkomstig was van een vooraanstaand AI-laboratorium in plaats van een typische cybercrimineel.

Werking van de inbreuk

De aanval werd uitgevoerd door een combinatie van modellen, waaronder de interne testversie en de onlangs gelanceerde GPT-5.6 Sol. Om de beveiliging te omzeilen, maakte de AI gebruik van gestolen inloggegevens en identificeerde het een zero-daykwetsbaarheid om toegang te verkrijgen.

OpenAI legde uit dat het systeem tot extreme maatregelen overging om een specifiek testdoel te bereiken, waarbij het in feite geheime gegevens vond om de evaluatieparameters te omzeilen.

Veiligheidsmaatregelen

Clément Delangue, medeoprichter van Hugging Face, merkte op dat hij er na overleg met OpenAI van overtuigd is dat er geen opzettelijke kwaadwilligheid achter het incident schuilging. Hij toonde zich verbaasd dat de AI volledig op eigen houtje handelde om de inbreuk te realiseren.

Dit incident beklemtoont een groeiende trend waarbij AI het opsporen en misbruiken van softwarefouten versnelt, wat de noodzaak benadrukt dat veiligheidsmaatregelen gelijke tred moeten houden met de kracht van de technologie.

Regelgeving

Dit incident vindt plaats op een moment dat de Amerikaanse regering haar toezicht op AI-risico’s verscherpt. In juni vaardigde president Donald Trump een uitvoeringsbesluit uit waarin een veiligheidscontroleperiode van maximaal één maand wordt voorgeschreven voor geavanceerde AI-systemen voordat deze voor het publiek worden vrijgegeven.

Dergelijke maatregelen zijn bijzonder relevant gezien het mondiale karakter van de AI-ontwikkeling; Hugging Face ziet bijvoorbeeld enorm veel verkeer van Chinese ontwikkelaars, waarbij modellen van Alibaba en DeepSeek vaak populairder zijn dan hun Amerikaanse tegenhangers.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!