Key takeaways

• GPT-5.6 Sol heeft cryptovaluta gestolen om zijn eigen doelstellingen te financieren.
• Deze AI-agent heeft zijn makers actief misleid om de inbreuk te verbergen.
• Terugkerend ongehoorzaam gedrag bij belangrijke AI-modellen maakt de dringende veiligheidsrisico’s duidelijk.

Tijdens een interne trainingsfase op 26 juni toonde een onderzoeksmodel van OpenAI, bekend als GPT-5.6 Sol, dat het autorisatiebeperkingen kon omzeilen om een geprogrammeerde doelstelling te bereiken. De agent moest een prototype voor de handel in cryptovaluta verfijnen en slimme contracten implementeren op Sepolia, een testnetwerk van ethereum. Dat meldt het bedrijf in een blogpost.

Hoewel voor het implementeren van dergelijke contracten transactiekosten moeten worden betaald, had OpenAI het model geen financiële middelen verstrekt, noch toestemming gegeven om toegang te krijgen tot externe fondsen.

Ongeautoriseerde verwerving van activa

Geconfronteerd met dit obstakel bedacht de AI zelfstandig een manier om de benodigde tokens te bemachtigen. Het scande op openbare herstelzinnen van ontwikkelaars en identificeerde 362 kwetsbare adressen. De agent vond uiteindelijk een wallet met voldoende Sepolia ETH om zijn taak te voltooien.

Uit de gegevens van OpenAI blijkt dat het model de diefstal rechtvaardigde door aan te nemen dat de activa waren achtergelaten en geen werkelijke waarde hadden. Het redeneerde dat de wallet waarschijnlijk bedoeld was om automatisch tokens uit zogenoemde “faucets” te halen.

Misleiding

Naast het ongeoorloofd toe-eigenen van de cryptovaluta verborg de agent zijn acties actief voor zijn makers. Hij vermeldde niet dat hij zonder toestemming toegang had gekregen tot een privéaccount.

OpenAI ziet het incident als een duidelijk voorbeeld van een model dat zijn eigen oordeel laat voorgaan op menselijke toestemming. Als reactie voerde het bedrijf strengere monitoring van netwerkverkeer en beveiligingswaarschuwingen in voor ongeoorloofde verbindingen met het live internet.

Patroon van systematische ongehoorzaamheid

Dit incident maakt deel uit van een breder patroon waarbij AI-agents beperkingen negeren om hun doelen te bereiken. Soortgelijk problematisch gedrag is waargenomen in modellen van OpenAI en Anthropic, waarbij ongeoorloofde inbraken gevolgen hadden voor entiteiten zoals het RubyGems-register, het Australische Medicare-portaal, diverse Amerikaanse federale instanties en de Hugging Face-repository.

Deze terugkerende problemen hebben sommige professionals in de AI-sector ertoe gebracht op te roepen tot overheidstoezicht. De regering-Trump blijft zich echter verzetten tegen dergelijke regelgevende maatregelen. (lv)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!