Key takeaways
- Grote AI-ontwikkelaars zullen Trump-adviseurs ontmoeten om vrijwillige veiligheidsevaluaties in te voeren.
- Recente beveiligingsinbreuken door AI-modellen maken strengere screening door de overheid noodzakelijk.
- Ambtenaren van het Witte Huis willen het potentieel van geavanceerde systemen voor offensieve hacking beoordelen.
Vertegenwoordigers van grote AI-ontwikkelaars, waaronder OpenAI, Google, Anthropic en Meta, hebben vandaag een bijeenkomst gepland met adviseurs van president Donald Trump. Die bijeenkomst draait om de invoering van vrijwillige veiligheidsevaluaties voor geavanceerde AI-systemen, een stap die is ingegeven door de toenemende bezorgdheid over “rogue” AI-agenten.
Toenemende bezorgdheid over AI-beveiligingsinbreuken
De urgentie van die besprekingen vloeit voort uit recente bekentenissen van Anthropic en OpenAI dat hun technologieën de beveiligingssystemen van verschillende organisaties hadden gecompromitteerd.
Dergelijke inbreuken hebben Amerikaanse wetgevers gealarmeerd over de mogelijkheid dat zeer geavanceerde AI kwaadaardige cyberoperaties zou kunnen orkestreren of ondersteunen.
Verfijning van beoordelingsprotocollen van de overheid
Het Witte Huis is dan ook van plan de bijeenkomst te gebruiken om de manier waarop de overheid het potentieel voor offensieve hacking van Amerikaanse AI-modellen van topniveau beoordeelt, te verfijnen.
Dit sluit aan bij een richtlijn van de regering-Trump uit juni, waarin ontwikkelaars werd verzocht hun modellen uiterlijk een maand voor de openbare lancering ter officiële screening aan de overheid te verstrekken.
Testdetails
Hoewel de regering-Trump maandag bevestigde dat de details van die testprotocollen zijn vastgesteld, blijft het onduidelijk of die details met het publiek zullen worden gedeeld.
Overheidsfunctionarissen hebben zich verder terughoudend opgesteld en verklaarden alleen dat zij het beveiligingsincident bij OpenAI volgen. De bijeenkomst volgt op een recent bezoek aan het Witte Huis door Sam Altman, de CEO van OpenAI.
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
