Key takeaways

• Voormalige onderzoekers beweren dat OpenAI hen heeft ontslagen omdat ze AI-veiligheid boven winst stelden.
• De leiding van het bedrijf schrijft de ontslagen toe aan schendingen van het gegevensprotocol.
• De geschillen benadrukken de groeiende spanning tussen bedrijfsdoelstellingen en ethische AI-afstemming.

Verschillende voormalige onderzoekers van OpenAI beweren dat hun ontslag het gevolg was van het feit dat zij AI-veiligheid boven de directe bedrijfsdoelstellingen van het bedrijf stelden. Terwijl de organisatie volhoudt dat de medewerkers zijn ontslagen voor het overtreden van protocollen met betrekking tot de omgang met privégegevens, stellen de ex-werknemers dat hun vertrek een vergeldingsmaatregel was.

Beschuldigingen van “een cultuur van angst”

In een open brief geschreven door Jasmine Wang, Mikita Balesni en Tomek Korbak beweerde de groep dat hun vertrek een cultuur van angst heeft gecreëerd. Zij suggereren dat het huidige personeel nu mogelijk tot zwijgen wordt geïntimideerd, waardoor de open dialoog die ooit centraal stond in de bedrijfsvoering van het bedrijf wordt gesmoord.

Korbak beweerde met name dat hij de leiding maandenlang had gewaarschuwd voor het afnemende vermogen om de interne “denkprocessen” van AI-agenten te volgen, wat cruciaal is voor het opsporen van storingen.

Reactie OpenAI

OpenAI heeft de beschuldigingen krachtig ontkend. In verklaringen aan de BBC en in een interne memo van de onderzoeksleiders benadrukte het bedrijf dat de ontslagen waren gebaseerd op een ernstige schending van het vertrouwen en het verkeerd omgaan met gevoelige gegevens, en niet op het pleidooi van de onderzoekers voor veiligheid.

De organisatie benadrukte dat haar onderzoek de beslissing om hun dienstverband te beëindigen heeft bevestigd.

Breder debat over AI-veiligheid

Dit geschil speelt zich af in het licht van maatschappelijke bezorgdheid over de gevaren van geavanceerde AI. ‘Alignment’, het proces waarbij wordt gewaarborgd dat AI zich houdt aan menselijke ethiek en waarden, blijft een omstreden aandachtspunt.

Terwijl de voormalige werknemers waarschuwen dat dit patroon van ontslagen zich mogelijk zal voortzetten, heeft OpenAI aangegeven dat het momenteel afspraken treft met externe veiligheidsauditors en binnenkort meer informatie zal verstrekken.

(at)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!