Key takeaways

• Amerikaanse procureurs-generaal onderzoeken de veiligheidsmaatregelen en gegevensverwerking van OpenAI.
• Ernstige juridische geschillen over sterfgevallen en geweld onder gebruikers bedreigen de reputatie van het bedrijf.
• Overheidsonderzoek bemoeilijkt OpenAI’s streven naar een potentiële beursgang van een biljoen dollar (zo’n 860 miljoen euro).

Terwijl OpenAI zich voorbereidt op een mogelijke beursgang, wordt het geconfronteerd met een aanzienlijke regelgevende hindernis. Een groep Amerikaanse procureurs-generaal, onder leiding van New York, heeft een uitgebreide dagvaarding uitgevaardigd waarin interne documentatie wordt geëist met betrekking tot de veiligheidsmaatregelen die zijn geïmplementeerd voor ChatGPT-gebruikers. Die juridische stap volgt kort nadat het bedrijf vertrouwelijke beursdocumenten heeft ingediend, wat een beursdebuut mogelijk bemoeilijkt dat volgens sommige experts het bedrijf op ongeveer 1 biljoen dollar (zo’n 860 miljoen euro) zou kunnen waarderen.

Focus van het overheidsonderzoek

Het overheidsonderzoek richt zich op verschillende cruciale gebieden, waaronder de methoden van het bedrijf om gebruikers te behouden, zijn advertentiestrategieën en zijn beheer van gevoelige gezondheids- en consumentengegevens.

Bovendien onderzoeken de toezichthouders de beschermingsmaatregelen die OpenAI heeft getroffen voor kwetsbare bevolkingsgroepen, met name oudere gebruikers en kinderen. Hoewel OpenAI niet heeft bekendgemaakt welke specifieke staten bij het onderzoek betrokken zijn, heeft het bedrijf zijn toewijding aan verantwoorde technologische implementatie bevestigd en verklaard dat het zal samenwerken met de juridische instanties, waarbij het opmerkt dat veiligheidsfuncties al in zijn AI zijn geïntegreerd.

Toenemende juridische uitdagingen

Deze dagvaarding komt te midden van een golf van andere juridische uitdagingen. Het bedrijf is momenteel verwikkeld in een rechtszaak met een Canadese moeder die de zelfmoord van haar dochter toeschrijft aan de chatbot.

Daarnaast heeft de procureur-generaal van Florida juridische stappen ondernomen tegen het bedrijf en CEO Sam Altman na twee gewelddadige incidenten waarbij de daders de AI naar verluidt zouden hebben gebruikt voor de planning. In reactie hierop stelt OpenAI dat zijn systemen deze personen herhaaldelijk hebben doorverwezen naar geestelijke gezondheidszorg en dat het de wetshandhavingsinstanties volledig heeft bijgestaan.

Toenemend toezicht in de hele sector

De recente ervaringen van OpenAI in de rechtszaal zijn gemengd. In mei heeft een jury in Californië een rechtszaak van Elon Musk snel afgewezen. Musk beweerde dat het bedrijf was afgeweken van zijn oorspronkelijke non-profitmissie, maar hij is van plan om die beslissing aan te vechten.

Die druk is niet uniek voor OpenAI, aangezien de bredere AI-sector te maken heeft met toenemend toezicht. Europese autoriteiten onderzoeken momenteel de Grok-chatbot vanwege het hosten van seksueel getint en antisemitisch materiaal. Evenzo kreeg Anthropic, dat ook een beursgang overweegt, onlangs van de Amerikaanse regering de opdracht om de internationale beschikbaarheid van bepaalde modellen te beperken vanwege zorgen over de nationale veiligheid, wat de volatiele kruising tussen AI-ontwikkeling en overheidsregulering onderstreept%.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!

(ns)(fc)