Key takeaways

• OpenAI kan volgens de CEO Sam Altman het gebruik van artificiële intelligentie door het Pentagon bij militaire operaties niet controleren.
• De discussie rond het gebruik van AI door de Amerikaanse regering begon nadat OpenAI een deal sloot met het Pentagon.
• De CEO van OpenAI gaf zelf maandag toe dat zijn bedrijf overhaast te werk is gegaan bij het sluiten van de overeenkomst.

OpenAI heeft geen controle over hoe het Pentagon zijn technologie gebruikt in militaire operaties. Dat vertelde CEO Sam Altman dinsdag tijdens een interne bijeenkomst met medewerkers.

Volgens Altman ligt de verantwoordelijkheid voor de operationele beslissingen volledig bij het leger zelf. “OpenAI-medewerkers hebben niets te zeggen over militaire operaties”, voegt hij er in zijn toespraak aan toe volgens Bloomberg en CNBC.

Pentagon-deal

De afgelopen weken is er heel veel discussie geweest binnen de AI-industrie. Die kwamen er nadat het Pentagon van AI-bedrijven eiste dat ze de veiligheidsmaatregelen voor hun modellen zouden opheffen. Zo zouden die modellen voor een breder scala aan militaire toepassingen kunnen worden gebruikt.

De discussie laaide op nadat OpenAI eind februari een deal sloot met het Amerikaanse ministerie van Defensie. De timing van die overeenkomst zorgde voor extra ophef. Kort daarvoor had het AI-bedrijf Anthropic een vergelijkbaar contract met het Pentagon geweigerd. Het bedrijf wilde garanties dat zijn technologie niet zou worden gebruikt voor massale surveillance van burgers of voor autonome wapensystemen.

Altman

De CEO van OpenAI gaf zelf maandag toe dat zijn bedrijf overhaast te werk is gegaan bij het sluiten van de overeenkomst. Volgens hem werd de overeenkomst te snel afgerond, waardoor het bedrijf “opportunistisch en slordig” leek.

Dario Amodei, de CEO van Anthropic, haalde woensdag hard uit naar Altman in een memo. Volgens Amodei is Altman “leugenachtig” en zou hij “Trump op dictatoriale wijze prijzen”, aldus The Information.

“We hebben ons aan onze principes gehouden in plaats van met hen samen te werken om een ‘veiligheidstheater’ op te voeren ten behoeve van de werknemers”, schreef Amodei naar verluidt.

Sam Altman vertelde in zijn post op X wel dat het contract met het Pentagon beperkingen bevat. Zo zou de technologie niet mogen worden gebruikt voor massale surveillance van Amerikaanse burgers of voor volledig autonome wapensystemen. Critici blijven toch sceptisch over de afdwingbaarheid van die regels.

Kritiek

Ook binnen OpenAI is er veel kritiek op de deal met het Pentagon. Honderden werknemers van OpenAI en Google hebben een open brief ondertekend waarin ze waarschuwen voor de militarisering van AI. “We hopen dat onze leiders hun meningsverschillen opzij zullen zetten en samen zullen blijven weigeren om in te gaan op de huidige eisen van het Pentagon om onze modellen te gebruiken voor binnenlandse massasurveillance en het autonoom doden van mensen zonder menselijk toezicht”, schreven de werknemers. (ev)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!