Key takeaways
- Houthi-rebellen probeerden Claude AI te gebruiken voor de ontwikkeling van geleidingssystemen voor ballistische raketten.
- Door misleidende invoertactieken konden sommige veiligheidsprotocollen van Anthropic met succes worden omzeild.
- De risico’s van het inzetten van AI als wapen vormen een bedreiging voor de wereldwijde veiligheid.
Uit een recent beveiligingsrapport van Anthropic blijkt dat activisten in het noorden van Jemen hebben geprobeerd het Claude AI-model in te zetten om software voor ballistische raketten te ontwikkelen. Dat meldt Financial Times.
Houthi-rebellen
Hoewel het bedrijf de Houthi-rebellen niet expliciet bij naam noemde, wijst de locatie van de activiteiten sterk op hun betrokkenheid. De militanten wilden de AI gebruiken als vervanging voor professionele software-ingenieurs om navigatie-, besturings- en geleidingssystemen te creëren voor diverse projectielen, waaronder meertrapsraketten en geleide raketten die worden aangedreven door eenvoudige computers op smartphonenniveau.
Veiligheidsprotocollen omzeilen
De groep paste misleidende strategieën toe om AI-veiligheidsprotocollen te omzeilen, zoals het verspreiden van hun verzoeken over verschillende sessies en het verhullen van het werkelijke doel van hun code. Hoewel de beveiligingsmaatregelen van Anthropic veel pogingen hebben tegengehouden, waren sommige verzoeken succesvol.
De AI werd gebruikt om besturingsinstellingen te verfijnen, open-source automatische pilootsystemen te integreren en vluchtsimulaties uit te voeren. Ondanks die inspanningen is het bedrijf van mening dat het project niet heeft geleid tot een werkend wapen, waarbij wordt opgemerkt dat een testafvuring van een geleide raket leek te mislukken.
Het risico van het inzetten van AI als wapen
Dit incident benadrukt het precaire karakter van geavanceerde AI, nu ontwikkelaars worstelen om te voorkomen dat de technologie als wapen wordt ingezet. Uit hetzelfde rapport bleek dat andere gebruikers hadden geprobeerd het model te gebruiken voor onderzoek naar biologische wapens.
Om die bedreigingen tegen te gaan, heeft Anthropic de betrokken accounts beëindigd en samengewerkt met beveiligingspartners om inlichtingen te delen. Het bedrijf merkte echter op dat de Jemenitische cel al onafhankelijke, offline simulatietools had ontwikkeld, waardoor hun afhankelijkheid van cloudgebaseerde AI was afgenomen.
Geopolitieke implicaties
Die technologische ambities vallen samen met een sterke toename van de militaire activiteiten van de Houthi’s. De groep, die wordt gesteund door Iran en door de Verenigde Staten als terroristisch is aangemerkt, heeft onlangs offensieven gelanceerd langs de kust van de Rode Zee en is opgerukt richting de Straat van Bab al-Mandeb. Die strategische waterweg is van cruciaal belang voor de wereldwijde olietransporten, en het conflict heeft al bijgedragen aan stijgende prijzen voor Brent-ruwe olie.
Door hun raketcapaciteiten uit te breiden en scheepvaartroutes te bedreigen, hebben de Houthi’s de druk op Saoedi-Arabië opgevoerd en de bredere geopolitieke doelstellingen van Iran tegen de VS en zijn bondgenoten bevorderd.
(at)
Wil je meer defensienieuws ontvangen? Schrijf je in op onze wekelijkse Defensie Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
