Key takeaways
- Senator Elizabeth Warren stelt vraagtekens bij de aanwijzing van Anthropic als “risico voor de toeleveringsketen” door het Ministerie van Defensie.
- Warren is bezorgd over mogelijk misbruik van artificiële intelligentie door het Ministerie van Defensie voor surveillance of de ontwikkeling van autonome wapens.
- Het gebrek aan transparantie rond de overeenkomsten van het Ministerie van Defensie met zowel Anthropic als OpenAI voedt de bezorgdheid over mogelijk misbruik van AI-technologieën.
Senator Elizabeth Warren uit haar bezorgdheid over de recente aanwijzing door het Ministerie van Defensie van Anthropic als een risico voor de toeleveringsketen. Zij is van mening dat dit besluit een vergeldingsmaatregel kan zijn en suggereert dat er minder ingrijpende maatregelen hadden kunnen worden genomen om de banden met het bedrijf te verbreken, zoals het beëindigen van het contract of het beperken van het gebruik van Anthropic-technologie tot niet-geclassificeerde systemen.
Potentieel voor misbruik
Warrens bezorgdheid komt voort uit de mogelijkheid dat het Ministerie van Defensie AI-technologie zou misbruiken voor het surveilleren van Amerikaanse burgers of de ontwikkeling van autonome wapens zonder adequate waarborgen. Haar brief aan minister van Defensie Pete Hegseth beklemtoont deze zorgen en stelt de motieven van het ministerie ter discussie. De situatie doet zich voor tijdens het aanhoudende conflict in Iran, waar het Ministerie van Defensie ondanks de recente aanwijzing gebruik blijft maken van het Claude-model van Anthropic.
Al vóór het label “toeleveringsketenrisico” bestonden er spanningen tussen het DoD en Anthropic over de toegang tot de AI-modellen van het bedrijf. Terwijl het DoD onbeperkte toegang wilde voor alle “wettige doeleinden”, stond Anthropic erop dat er garanties zouden worden gegeven dat zijn technologie niet zou worden gebruikt voor autonome wapens of binnenlandse massasurveillance. Dit conflict culmineerde in de aankondiging van Hegseth, waarin hij het DoD opdroeg het label toe te passen. Dit was een stap die werd gevolgd door een rechtszaak die Anthropic aanspande tegen de regering-Trump. Daarin beweerde het bedrijf dat de plaatsing op de zwarte lijst de nationale veiligheid van de VS in gevaar bracht.
OpenAI kwam kort na de plaatsing van Anthropic op de zwarte lijst in beeld en kondigde een overeenkomst met het DoD aan. Het bedrijf blijft ervan overtuigd dat zijn “safety stack”, bestaande wetgeving en contractuele bepalingen misbruik van zijn AI-systemen voor surveillance of de ontwikkeling van autonome wapens zouden voorkomen. Deze verzekering heeft de bezorgdheid van wetgevers, het publiek en zelfs sommige OpenAI-medewerkers echter niet volledig weggenomen.
Op zoek naar duidelijkheid
Senator Warren vraagt ook om duidelijkheid van OpenAI-CEO Sam Altman over de voorwaarden van hun overeenkomst met het DoD. Ze uit haar bezorgdheid dat het contract de overheid zou kunnen toestaan om OpenAI-technologie te gebruiken voor massasurveillance of de ontwikkeling van dodelijke autonome wapens met minimale menselijke controle.
Ondanks oproepen tot transparantie en inzage in het volledige contract hebben zowel het DoD als OpenAI ervan afgezien dit openbaar te maken. Dit gebrek aan openheid wakkert de bezorgdheid over mogelijk misbruik verder aan en illustreert de noodzaak van meer verantwoording bij de inzet van AI-technologieën door overheidsinstanties. Het politieke landschap vormt een uitdaging voor de Democraten in de Senaat die concrete actie nastreven, aangezien de Republikeinen momenteel de controle hebben over het Witte Huis en beide kamers van het Congres.
(jw)(fc)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!