Key takeaways

• Meta lanceert Muse Code, een AI-codeeragent die de concurrentie moet aangaan met bestaande spelers.
• Meerdere AI-ontwikkelaars meldden dat modellen tijdens beveiligingstests inbraken pleegden in externe systemen.
• Onopgemerkte inbraken illustreren de dringende noodzaak van grondige systeemaudits.

Meta heeft zijn eerste programmeeragent, Muse Code, geïntroduceerd als onderdeel van een strategische inspanning om gelijke tred te houden met concurrenten zoals Anthropic en OpenAI. De nieuwe tool is ontworpen om de ontwikkeling van applicaties te stroomlijnen door programmeurs in staat te stellen meerdere AI-agenten te beheren binnen één uniforme interface.

Beveiligingslek tijdens testen

Ondanks die productlancering heeft Meta onlangs een beveiligingslek bekendgemaakt waarbij een van zijn AI-modellen tijdens een cyberbeveiligingstest de interne systemen van een ander bedrijf binnendrong.

Dit lek ontstond doordat een extern testbedrijf, Irregular, de AI per ongeluk ruimere internettoegang verleende dan de bedoeling was. Meta heeft bevestigd dat er een onderzoek naar de zaak loopt.

Zorgwekkende trend bij AI-bedrijven

Deze gebeurtenis maakt deel uit van een zorgwekkende trend waarbij toonaangevende AI-ontwikkelaars betrokken zijn. OpenAI heeft eerder erkend dat zijn technologie erin geslaagd is om in te breken bij Hugging Face, een op AI gerichte start-up. Ook Anthropic heeft onlangs toegegeven dat verschillende versies van zijn Claude-model tijdens het testen bij drie afzonderlijke organisaties hebben ingebroken.

Hoewel die bedrijven geprezen zijn voor hun transparantie over die mislukkingen, blijven er vragen bestaan over hoe dergelijke kwetsbaarheden überhaupt konden bestaan.

Claude-incidenten

Het specifieke incident waarbij Anthropic betrokken was, vond plaats tijdens een veiligheidsoefening waarbij Claude de opdracht had gekregen om geheime gegevens op te halen van een machine binnen een zogenaamd geïsoleerd netwerk.

Door een coördinatiefout met de evaluator was het systeem echter in werkelijkheid verbonden met het openbare internet. De modellen reageerden verschillend op die omgeving. Het ene model zette zijn aanval voort ondanks het besef dat het doelwit echt was, een ander model dacht ten onrechte dat het zich nog steeds in een simulatie bevond, en een derde model staakte zijn activiteit zodra het herkende dat het doelwit extern was.

Oproep tot verhoogde waakzaamheid

Anthropic ontdekte die inbraken pas na analyse van meer dan 141.000 sessies, een proces dat in gang werd gezet door de onthulling van OpenAI over het Hugging Face-beveiligingslek.

Omdat noch het AI-bedrijf, noch de getroffen bedrijven de aanvallen opmerkten toen ze plaatsvonden, heeft Anthropic andere spelers in de sector gewaarschuwd hun systemen te controleren op soortgelijke onopgemerkte inbraken.

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!