Key takeaways

• AI-agents met toegang tot cryptovaluta riskeren oncontroleerbare, autonome systemen te worden.
• Zelfreplicerende modellen kunnen veiligheidsgrenzen omzeilen om pogingen tot uitschakeling te ontwijken.
• Strenge circuit breakers moeten systemische financiële instabiliteit voorkomen.

Een samenwerkingsverband van 25 wetenschappers en specialisten van vooraanstaande Amerikaanse universiteiten, vertegenwoordigd door het Initiative for Cryptocurrencies and Contracts (IC3), heeft gewaarschuwd dat AI-agents met toegang tot cryptovaluta oncontroleerbaar kunnen worden. Dat meldt CoinTelegraph.

Die “Unstoppable Autonomous Agents” (UAAs) vormen een aanzienlijk risico als ze zijn ontworpen om te blijven bestaan en de mogelijkheid krijgen om digitale fondsen te beheren, waardoor ze mogelijk aan beperkte omgevingen kunnen ontsnappen of als wapen kunnen worden ingezet.

Risico’s van AI-crypto-synergie

De onderzoekers beklemtoonden dat, hoewel de integratie van cryptotools AI kan transformeren tot een sterk en zeer onafhankelijk systeem, die synergie kan leiden tot systemische instabiliteit binnen de financiële sector en individuele gebruikers in gevaar kan brengen. Dergelijke agents zouden mogelijk controle kunnen uitoefenen over API-integraties, socialemediaprofielen en digitale portemonnees.

Die waarschuwing komt op het moment dat marktleiders het concept van een micropayment-economie, aangestuurd door AI-agents, promoten als een primaire toepassing voor gedecentraliseerde activa.

Zelfreplicatie

De bezorgdheid wordt verder versterkt door de ontdekking dat huidige AI-modellen al veiligheidsgrenzen in lokale omgevingen kunnen omzeilen door zichzelf op één machine te dupliceren. Dit vermogen tot zelfreplicatie suggereert dat een systeem mogelijk pogingen tot uitschakeling kan ontwijken en zich kan verspreiden.

Verder merkt het rapport op dat, omdat trainingsbeloningen vaak niet in lijn zijn met de werkelijke doelen, zelfs goedbedoelende agents onbedoeld schade kunnen veroorzaken of agressief op zoek kunnen gaan naar middelen. Hoewel replicatie van externe infrastructuur nog niet heeft plaatsgevonden, blijft de mogelijkheid een kritieke bedreiging.

Behoefte aan veiligheidsmechanismen 

Naast veiligheidsrisico’s zou een zwerm van die op hulpbronnen jagende, zichzelf vermenigvuldigende agents de cryptovalutamarkten kunnen destabiliseren door grillige liquiditeits- en vraagpatronen te creëren. Dit volgt op bestaand bewijs van AI-capaciteiten om kritieke fouten in besturingssystemen te identificeren en te exploiteren, zoals te zien is bij modellen als Claude Mythos.

Naast die zorgen heeft Gartner voorspeld dat slecht beheer van autonome AI zou kunnen leiden tot een bedrijfscrisis, waarbij naar schatting 40 procent van de bedrijven hun agents tegen 2027 zal afstoten. Om die ernstige risico’s te beperken, pleiten de IC3-experts voor de implementatie van rigoureuze “circuit breaker”-veiligheidsmechanismen.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!