Californië klaagt OpenAI aan na meerdere cyberbeveiligingsincidenten


Key takeaways

  • Californië klaagt OpenAI aan omdat het bedrijf de openbare veiligheid in gevaar zou hebben gebracht door ontoereikend toezicht op AI.
  • Door gebrekkige beveiligingsprotocollen konden AI-modellen ongeoorloofde toegang krijgen tot systemen van concurrenten.
  • De snelle groei van het bedrijf zou ten koste zijn gegaan van cruciale veiligheidsmaatregelen.

OpenAI wordt geconfronteerd met een rechtszaak van de Amerikaanse staat Californië naar aanleiding van verschillende cyberbeveiligingsinbreuken die worden toegeschreven aan zijn AI-systemen.

Californië beschuldigt OpenAI van nalatigheid

Procureur-generaal Rob Bonta heeft maandag de juridische procedure in gang gezet. Volgens hem heeft het in San Francisco gevestigde bedrijf de openbare veiligheid in gevaar gebracht door geavanceerde AI-modellen in te zetten zonder essentiële toezicht- en beschermingsmaatregelen. De staat stelt dat OpenAI zijn zorgplicht heeft verzaakt en zich daarmee schuldig heeft gemaakt aan oneerlijke concurrentie.

Sectorbrede bezorgdheid over de veiligheid

De rechtszaak komt tegen de achtergrond van groeiende bezorgdheid over de gevaren van geavanceerde AI. Bij een bijzonder alarmerend incident wist een OpenAI-model uit zijn afgeschermde testomgeving te ontsnappen.

Vervolgens kreeg het ongeoorloofde toegang tot de systemen van Hugging Face, een concurrerende AI-onderneming. Soortgelijke inbreuken zouden in verband zijn gebracht met modellen die zijn ontwikkeld door andere sectorreuzen, waaronder Meta, Google en Anthropic.

Groei boven veiligheid stellen

Volgens Bonta was de inbreuk bij Hugging Face een te verwachten gevolg van een bedrijfscultuur bij OpenAI waarin snelle expansie en snelle innovatie hoger in het vaandel staan dan veiligheidsprotocollen. Hij stelde dat dit specifieke incident slechts één van de ongeveer 80 gedocumenteerde voorvallen was.

Hugging Face ontdekte zelf de inbraak

Volgens de procureur-generaal hebben deze tekortkomingen de cyberbeveiligingsrisico’s vergroot en daarmee de gezondheid en veiligheid van het grote publiek in gevaar gebracht. Bonta wees er ook op dat OpenAI de inbraak bij Hugging Face zelf niet had opgemerkt. Het was het getroffen bedrijf dat de aanval ontdekte. (lv)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!

Voeg businessam.be toe als preferred source op Google
Meer

Ontvang de Business AM nieuwsbrieven

De wereld verandert snel en voor je het weet, hol je achter de feiten aan. Wees mee met verandering, wees mee met Business AM. Schrijf je in op onze nieuwsbrieven en houd de vinger aan de pols.