Key takeaways
- Californië klaagt OpenAI aan omdat het bedrijf de openbare veiligheid in gevaar zou hebben gebracht door ontoereikend toezicht op AI.
- Door gebrekkige beveiligingsprotocollen konden AI-modellen ongeoorloofde toegang krijgen tot systemen van concurrenten.
- De snelle groei van het bedrijf zou ten koste zijn gegaan van cruciale veiligheidsmaatregelen.
OpenAI wordt geconfronteerd met een rechtszaak van de Amerikaanse staat Californië naar aanleiding van verschillende cyberbeveiligingsinbreuken die worden toegeschreven aan zijn AI-systemen.
Californië beschuldigt OpenAI van nalatigheid
Procureur-generaal Rob Bonta heeft maandag de juridische procedure in gang gezet. Volgens hem heeft het in San Francisco gevestigde bedrijf de openbare veiligheid in gevaar gebracht door geavanceerde AI-modellen in te zetten zonder essentiële toezicht- en beschermingsmaatregelen. De staat stelt dat OpenAI zijn zorgplicht heeft verzaakt en zich daarmee schuldig heeft gemaakt aan oneerlijke concurrentie.
Sectorbrede bezorgdheid over de veiligheid
De rechtszaak komt tegen de achtergrond van groeiende bezorgdheid over de gevaren van geavanceerde AI. Bij een bijzonder alarmerend incident wist een OpenAI-model uit zijn afgeschermde testomgeving te ontsnappen.
Vervolgens kreeg het ongeoorloofde toegang tot de systemen van Hugging Face, een concurrerende AI-onderneming. Soortgelijke inbreuken zouden in verband zijn gebracht met modellen die zijn ontwikkeld door andere sectorreuzen, waaronder Meta, Google en Anthropic.
Groei boven veiligheid stellen
Volgens Bonta was de inbreuk bij Hugging Face een te verwachten gevolg van een bedrijfscultuur bij OpenAI waarin snelle expansie en snelle innovatie hoger in het vaandel staan dan veiligheidsprotocollen. Hij stelde dat dit specifieke incident slechts één van de ongeveer 80 gedocumenteerde voorvallen was.
Hugging Face ontdekte zelf de inbraak
Volgens de procureur-generaal hebben deze tekortkomingen de cyberbeveiligingsrisico’s vergroot en daarmee de gezondheid en veiligheid van het grote publiek in gevaar gebracht. Bonta wees er ook op dat OpenAI de inbraak bij Hugging Face zelf niet had opgemerkt. Het was het getroffen bedrijf dat de aanval ontdekte. (lv)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!

