Key takeaways

• Sinds kort is er het Claude Mythos-model van Anthropic beschikbaar.
• Het Internationaal Monetair Fonds (IMF) maakt zich zorgen over mogelijke vernietiging van het financiële systeem door dat model.
• Directeur van het IMF, Kristalina Georgieva, wil meer samenwerking tussen landen op het vlak van cybersecurity.

Er heerst op dit moment angst in de financiële wereld omtrent artificiële intelligentie. Geavanceerde AI-modellen zoals Anthropic’s Mythos “kunnen worden gebruikt om het financiële systeem te vernietigen” als ze worden overgenomen door kwaadwillenden, heeft de directeur van het Internationaal Monetair Fonds gewaarschuwd. Dat meldt POLITICO.

Anthropic Mythos

Claude Mythos is een groot taalmodel ontwikkeld door Anthropic om softwarekwetsbaarheden te vinden. Anthropic heeft het model niet vrijgegeven aan het publiek, onder verwijzing naar zorgen over veiligheid en misbruik. Reacties op Claude Mythos waren onmiddellijk en gemengd. Dit model is sinds 9 juni beschikbaar voor gebruik.

Bezorgdheden in financiële wereld

Financiële toezichthouders zijn sinds april in hoge staat van paraatheid over de risico’s van superhacking AI-modellen. Dit komt nadat Anthropic zijn krachtige nieuwe model Mythos aankondigde, dat geavanceerde cybercapaciteiten heeft. Daardoor zijn angsten aangewakkerd dat het zou kunnen worden gebruikt voor verwoestende hacks van kritieke systemen.

“Wat we erkennen is dat Mythos pas het begin is; er zullen er meer komen zoals het,” vertelde Kristalina Georgieva. Ze zei dat grensverleggende AI-modellen positief kunnen worden gebruikt. Ze kunnen “cyberbeveiligingskwetsbaarheden met een snelheid en schaal identificeren die tot nu toe ondenkbaar waren.” Dit kan worden gebruikt om “deze kwetsbaarheden te verhelpen en het financiële systeem te beschermen tegen aanvallen”.

“Maar in de verkeerde handen kan diezelfde capaciteit worden gebruikt om het financiële systeem te vernietigen en dit is iets dat ons in een achterstandspositie plaatst”, voegde ze eraan toe.

Cybersecurity

In reactie daarop moeten landen volgens Georgieva “alle elementen van cybersecurity op hun plaats hebben”. Verder pleitte ze voor “meer samenwerking” tussen rijke en arme landen en tussen de publieke en private sector. Dit is nodig om zich voor te bereiden op de risico’s die de nieuwe modellen kunnen vormen. “Er is geen wereldwijde cyberbeveiligingsorganisatie en in de huidige geopolitieke omgeving is het moeilijk voor te stellen dat we er een kunnen hebben”, zei ze.

Geavanceerde economieën “moeten een manier vinden om de ontwikkelingslanden te helpen” om zich te verdedigen tegen de risico’s van de modellen. Dit is belangrijk vanwege de onderlinge verbondenheid van het wereldwijde financiële systeem, zei Georgieva. “Als er een grote zwakte is, zal deze worden benut. Bovendien is de wereld geïntegreerd, de financiële systemen zijn geïntegreerd,” zei ze.

Georgieva wees ook op het risico van een mogelijke AI-bubbel die zou kunnen barsten met desastreuze gevolgen voor het financiële systeem. “We zouden ook kunnen zien dat het AI-enthousiasme, de AI-boom, meer risico loopt om te veranderen in een AI-crash. We zien het niet als een hoge waarschijnlijkheid, maar het is ook niet nul. Dus het valt in de categorie van lage waarschijnlijkheid, zeer hoge impact-risico’s,” zei ze.

Verzwakkende vooruitzichten

Georgieva is in Europa om de jaarlijkse economische beoordeling van het IMF voor de eurozone te presenteren. Daarin wordt vastgesteld dat de vooruitzichten voor de regio “verzwakt” zijn door de oorlog in het Midden-Oosten. Daardoor neigen de risico’s naar lagere groei en hogere inflatie. (fc)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!