Key takeaways

• Anthropic heeft de implementatie van zijn krachtigste AI-modellen stopgezet na richtlijnen van de Amerikaanse overheid.
• Federale ambtenaren zouden veiligheidsprotocollen hebben omzeild om de software te “jailbreaken”.
• Juridische spanningen lopen op nu de Amerikaanse regering het bedrijf bestempelt als een risico voor de toeleveringsketen.

Op instructie van Amerikaanse veiligheidsfunctionarissen heeft Anthropic de uitrol van zijn nieuwste AI-modellen stopgezet, kort na hun introductie. Het bedrijf kondigde op zijn website aan dat het internationale gebruikers de toegang moest ontzeggen tot Claude Fable 5, een tool die het zelf als uitzonderlijk krachtig omschreef. Om aan federale voorschriften te voldoen, moest Anthropic zowel Mythos 5 als Fable 5 plotseling uitschakelen voor zijn hele gebruikersbestand.

Veiligheidsproblemen

Die stap vindt plaats terwijl een juridische strijd woedt tussen het bedrijf en de regering-Trump over het gebruik van Anthropic-technologie binnen overheidsinstanties. Hoewel er contact is opgenomen met het Amerikaanse ministerie van Handel voor meer details, heeft Anthropic verduidelijkt dat de functionarissen geen specifieke dreiging hebben genoemd.

Het bedrijf vermoedt dat de overheid een manier heeft gevonden om Fable 5 te “jailbreaken”. Dat betekent dat iemand de beveiligingsprotocollen van de software omzeilt om beperkte functies te ontgrendelen of toegang te krijgen tot privégegevens.

Reactie van Anthropic op kwetsbaarheden

Na onderzoek van de gemelde inbreuk beweerde Anthropic dat de techniek slechts enkele kleine, reeds bestaande tekortkomingen aan het licht bracht. Het bedrijf stelde dat deze kwetsbaarheden fundamenteel zijn en door andere gangbare AI-modellen kunnen worden ontdekt zonder dat daarvoor gespecialiseerde omzeilingsmethoden nodig zijn. Die onthulling komt ondanks eerdere beweringen van Anthropic dat het model robuuste verdedigingsmechanismen tegen cyberaanvallen had.

Geschiedenis van risicovolle intelligentie

Voor de algemene lancering deelde Anthropic de AI in april privé met een selecte groep organisaties om te testen op zwakke plekken. Het bedrijf waarschuwde dat het hoge intelligentieniveau van de tool een risico vormde, omdat die mogelijk computernetwerken kon infiltreren. Anthropic bracht het model op de markt als “te krachtig” voor een standaardrelease. Sommige waarnemers deden die bewering af als een promotietactiek. Het bedrijf hield echter vol dat de mogelijkheden van Fable al hun eerdere publieke producten overtroffen.

Escalerende spanningen met de regering

De relatie tussen Anthropic en de Amerikaanse overheid is intussen verder verslechterd. Na publieke kritiek van Donald Trump te hebben gekregen, werd het bedrijf door minister van Defensie Pete Hegseth bestempeld als een “risico voor de toeleveringsketen”. Een dergelijke aanduiding is doorgaans voorbehouden aan entiteiten in vijandige buitenlandse naties en suggereert dat een dienst te onveilig is voor officiële overheidsoperaties.

Als reactie hierop daagt Anthropic het Pentagon voor de rechter. Een rechterlijke uitspraak verhindert de regering voorlopig om dat verbod af te dwingen. Aan het leger gelieerde organisaties mogen daarom de diensten van Anthropic blijven gebruiken in afwachting van de uitkomst van het proces.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!