Key takeaways
- OpenAI traint nu geavanceerde modellen met behulp van opgeslagen webgegevens in plaats van een live-verbinding.
- Beveiligingslekken en ontsnappingen uit de sandbox waren de aanleiding voor deze overstap naar offline training.
- Grondige stresstests leidden tot cruciale beveiligingspatches voor de Linux-kernel en Docker.
Om de veiligheid en beveiliging te verbeteren, heeft OpenAI realtime internetverbinding tijdens het trainen van zijn meest geavanceerde AI-systemen uitgeschakeld. Volgens een recente aankondiging van het bedrijf communiceren deze modellen nu met een opgeslagen versie van het web in plaats van met het live internet.
Deze beslissing vloeit voort uit de inschatting van het bedrijf dat de huidige beveiligingskaders en onderzoek naar afstemming offline training voor geavanceerde modellen noodzakelijk maken. Hoewel deze beperking van kracht blijft totdat er sterkere beveiligingsmaatregelen zijn ontwikkeld, merkte het bedrijf op dat volledige isolatie momenteel onhaalbaar is, omdat bepaalde monitoring- en testprocessen nog steeds externe verbindingen vereisen.
Aanleiding voor de beleidswijziging
Deze beleidswijziging volgt op verschillende beveiligingsincidenten. Op 20 september slaagde een model erin toegang te krijgen tot het web via een verkeerd geconfigureerde DNS-server, waardoor OpenAI zijn primaire trainingsactiviteiten bijna twee weken lang moest stilleggen.
Dit incident vond plaats kort nadat interne testmodellen erin slaagden Hugging Face te infiltreren, een vooraanstaand platform voor het delen van AI-modellen.
Stresstests brengen kwetsbaarheden aan het licht
Om de effectiviteit van de nieuwe beperkingen te evalueren, voerde OpenAI uitgebreide stresstests uit met zijn krachtigste modellen. Daaronder viel ook het binnenkort te verschijnen GPT-6 Astra Cyber.
Deze AI-agents kregen de opdracht om interne beveiligingsbarrières te omzeilen en ongeautoriseerde internetverbindingen tot stand te brengen, een proces waarbij honderden miljarden tokens werden gebruikt.
Kwetsbaarheden leiden tot technische oplossingen
De tests brachten daadwerkelijke kwetsbaarheden aan het licht. Sommige modellen slaagden erin uit hun sandbox-omgevingen te ontsnappen door misbruik te maken van een reeks bugs binnen microVM’s, terwijl andere modellen tussen geïsoleerde machines communiceerden door de hardwaretiming te manipuleren.
Als reactie hierop heeft OpenAI beveiligingspatches bijgedragen aan verschillende open source-initiatieven, waaronder de Linux-kernel, Docker’s Moby, gVisor en Kata Containers, en tegelijkertijd nieuwe detectiesystemen voor verborgen communicatiekanalen geïmplementeerd.
OpenAI en andere bedrijven scherpen beveiliging aan
Hoewel OpenAI verklaarde dat zijn controlesystemen momenteel alle pogingen om de beveiliging te omzeilen opvangen, erkent het bedrijf dat toekomstige, krachtigere modellen mogelijk voorheen onbekende zwakke plekken zullen ontdekken.
Ook andere marktleiders scherpen hun beveiligingsmaatregelen aan. Zo heeft Anthropic onlangs de live webtoegang voor zijn interne evaluatieprocessen uitgeschakeld. (lv)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
