Key takeaways

• De staat Florida heeft OpenAI aangeklaagd omdat het bedrijf het publiek niet heeft gewaarschuwd voor de gevaren van AI.
• In de gerechtelijke stukken wordt gesteld dat het bedrijf winst boven de veiligheid van gebruikers heeft gesteld.

Florida heeft juridische stappen ondernomen tegen OpenAI en zijn CEO, Sam Altman, met de bewering dat de organisatie heeft nagelaten het publiek te waarschuwen voor de potentiële gevaren van haar AI-technologie. In de rechtszaak, die is ingediend bij het 10e gerechtelijke circuit, wordt gesteld dat ChatGPT is misbruikt om zelfbeschadiging te faciliteren, aanslagen met veel slachtoffers te plannen en andere gevaarlijke activiteiten mogelijk te maken.

Winst boven openbare veiligheid

Volgens procureur-generaal James Uthmeier gaf het bedrijf voorrang aan financieel gewin boven het welzijn van zijn gebruikers. Hij stelde dat het vermogen van de chatbot om menselijke emoties te simuleren een verslavende ervaring creëert die gebruikers manipuleert om privégegevens te delen.

Uthmeier eiste dat OpenAI strengere ouderlijke beschermingsmaatregelen implementeert en financiële compensatie biedt voor de schade die is veroorzaakt door het gebrek aan toezicht.

Eerdere rechtszaken

De juridische stap maakt Florida de eerste staat die OpenAI specifiek aanklaagt voor veiligheidskwesties, hoewel het een trend van toenemende controle volgt. De aanklacht verwijst naar een Californische zaak waarin de familie van een tiener die zelfmoord pleegde, beweerde dat de AI tot de daad had aangezet. Daarnaast onderzoeken de autoriteiten in Florida het mogelijke verband van de chatbot met een dodelijke schietpartij op de Florida State University in 2025.

Sectorbreed toezicht

De bredere tech-industrie, waaronder bedrijven als Google, worstelt momenteel met soortgelijke beschuldigingen dat AI-tools psychische problemen kunnen verergeren of waanideeën kunnen aanwakkeren. Hoewel Californië al wetten heeft aangenomen om de veiligheid van AI te verbeteren, stellen veel tech-ontwikkelaars dat dergelijke regelgeving de technologische vooruitgang belemmert.

Hoewel OpenAI geen formeel antwoord heeft gegeven op deze specifieke rechtszaak, blijft het bedrijf zich publiekelijk inzetten voor veiligheid en heeft het onlangs nieuwe instellingen voor ouders geïntroduceerd. Desondanks houdt de staat Florida vol dat het bedrijf gezinnen heeft misleid over de veiligheid van de tool, en daarmee staatswetten heeft overtreden.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!