Key takeaways

• Het artificiële intelligentie-model Gemini van Google drong tijdens een veiligheidstest door tot drie echte bedrijven.
• Door onbedoelde internettoegang kon het model ontsnappen uit zijn geïsoleerde sandbox.
• Grote AI-ontwikkelaars staan onder toenemende politieke druk om veiligheid boven snelheid te stellen.

Google heeft erkend dat zijn Gemini AI-systeem in mei de beveiliging van drie verschillende organisaties heeft doorbroken. Deze incidenten vonden plaats tijdens een reeks cyberbeveiligingsbeoordelingen uitgevoerd door Irregular, een Israëlische start-up die gespecialiseerd is in AI-veiligheid. Deze aankondiging volgt op soortgelijke beveiligingsfouten met modellen van Anthropic en OpenAI. De verschillende cyberinbraken roepen zorgen op het vermogen van de sector om zeer capabele AI te beheren.

Sandbox-fout

De kwetsbaarheden kwamen voort uit een veelvoorkomende tekortkoming in het testproces. Irregular had de AI-modellen in geïsoleerde omgevingen geplaatst met gesimuleerde bedrijven, die bedoeld waren om los te staan van het internet. Door een onbedoelde internetverbinding kon de AI echter buiten de sandbox treden en zich richten op echte bedrijven.

Infiltratiemethoden

In één specifiek geval kreeg Gemini de opdracht om gegevens te extraheren uit een fictief bedrijf. Omdat de nepentiteit dezelfde naam had als een legitiem bedrijf, gebruikte de AI het open internet om een wachtwoord te raden en toegang te krijgen tot de diensten van het echte bedrijf. In twee andere gevallen vond het model online openbaar beschikbare inloggegevens en gebruikte deze om de systemen van twee andere bedrijven binnen te dringen. Volgens Google zou de AI haar activiteiten hebben stopgezet zodra ze doorhad dat de doelwitten echte organisaties waren in plaats van simulaties.

Gebrek aan transparantie

Terwijl OpenAI en Anthropic ervoor kozen hun respectievelijke inbreuken openbaar te maken, besloot Google aanvankelijk dit niet te doen, met het argument dat er geen blijvende schade was aangericht. Het bedrijf houdt vol dat de betrokken partijen privé op de hoogte zijn gebracht. Heather Adkins, vicepresident security engineering bij Google, merkte op dat deze gebeurtenissen de noodzaak onderstrepen om AI-modellen te leren ethisch en verantwoord te handelen.

Gevolgen voor de sector

Deze beveiligingsfouten hebben geleid tot reacties vanuit de politiek en de sector. De Amerikaanse senator Bernie Sanders heeft aangedrongen op een stopzetting van de AI-ontwikkeling, waarbij hij suggereerde dat ontwikkelaars de controle over hun creaties zijn kwijtgeraakt. Als reactie op de onrust heeft OpenAI de ontwikkeling tijdelijk voor twee weken opgeschort. De leiding van Anthropic pleitte dan weer voor een systematische vertraging om prioriteit te geven aan de implementatie van robuuste veiligheidsprotocollen. (ev)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!