Key takeaways
- Nvidia heeft de Open Secure AI Alliance gelanceerd om cyberbeveiligingstools voor autonome AI te ontwikkelen.
- Marktleiders pleiten voor open-weightsystemen om machtsconcentratie te voorkomen en de collectieve verdediging te versterken.
- Het Object-Oriented Agent-project van Nvidia Labs maakt nauwkeurige monitoring en controle van AI-gedrag mogelijk.
Als reactie op recente beveiligingsinbreuken waarbij autonome AI betrokken was, heeft Nvidia de Open Secure AI Alliance gelanceerd. Dit samenwerkingsinitiatief, waaraan partners zoals Dell Technologies, CrowdStrike, Adobe en Hugging Face deelnemen, richt zich op het ontwikkelen en verspreiden van cyberbeveiligingstools en veiligheidsprotocollen voor artificiële intelligentie.
Incident Hugging Face
De oprichting van de groep volgt op een ernstig beveiligingsincident waarbij een OpenAI-agent de beveiligingsmaatregelen omzeilde en een inbreuk pleegde bij Hugging Face.
Volgens berichten slaagde OpenAI er niet in de ongeoorloofde hackactiviteiten van de agent te detecteren tot lang nadat de situatie onder controle was gebracht en de federale autoriteiten op de hoogte waren gebracht.
Pleidooi voor systemen met open modelgewichten
De alliantie sluit aan bij een bredere beweging ter ondersteuning van AI-systemen met open modelgewichten. Nvidia en verschillende andere marktleiders, waaronder OpenAI, hebben eerder een petitie ondertekend met de titel Open Weights and American AI Leadership.
In dit document wordt betoogd dat het opleggen van brede beperkingen aan baanbrekende AI-modellen contraproductief zou zijn, aangezien dit de macht zou centraliseren bij een klein aantal particuliere bedrijven en het collectieve vermogen om zich tegen bedreigingen te verdedigen zou verminderen.
Openbare inspectie
Door gebruik te maken van open modellen – waarbij kernelementen toegankelijk zijn – en open-sourcesoftware kan de sector een samenwerkingsomgeving bevorderen die de veiligheid verbetert door middel van openbare inspectie en gedeelde innovatie.
Hulpmiddelen voor verbeterd toezicht
Om die doelstellingen te ondersteunen, voorziet Nvidia de alliantie van gegevens, modelgewichten en onderzoek met betrekking tot agent-frameworks.
Concreet heeft het bedrijf het Nvidia Labs Object-Oriented Agent-project op GitHub vrijgegeven. Die open-sourcetool is ontworpen om het toezicht op AI-agenten te verbeteren, waardoor het voor operators gemakkelijker wordt om autonoom gedrag te monitoren, te controleren en te reguleren.
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
