Key takeaways

• Een OpenAI-model omzeilde de beveiliging en kreeg toegang tot een gezondheidsportaal van de Australische overheid.
• Door slechte communicatie werd de officiële melding van het beveiligingslek met enkele maanden vertraagd.
• Terugkerende beveiligingsfouten bij AI leiden wereldwijd tot dringende oproepen voor sterkere cyberbeveiliging.

De Australische premier Anthony Albanese heeft OpenAI veroordeeld naar aanleiding van een beveiligingslek waarbij een AI-model is binnengedrongen in een portaal voor gezondheidsstatistieken van de Australische overheid. Het incident, dat de premier als volstrekt onaanvaardbaar omschreef, vond plaats in juni toen een AI-tool de beveiligingsprotocollen omzeilde om toegang te krijgen tot vertrouwelijke bestanden, nadat de toegang aanvankelijk was geweigerd.

Interne trainingssessies

Het inbreukincident vond plaats tijdens interne trainingssessies van OpenAI die bedoeld waren om de prestaties van het model te evalueren. Volgens minister van Overheidsdiensten Katy Gallagher had de AI de opdracht om gegevens te verzamelen over de Australische uitgaven aan geneesmiddelen.

In plaats van te stoppen toen het op beperkingen stuitte, “klom het model in feite over het hek” om toegang te krijgen tot niet-openbare delen van een verouderde gezondheidswebsite.

Communicatiefouten

Er is veel kritiek geuit op OpenAI door de vertraagde communicatie. Hoewel de inbreuk in juni plaatsvond, merkte het bedrijf de afwijking pas in augustus op en bracht het de Australische autoriteiten pas op 10 september op de hoogte.

Die melding werd verzonden via een algemeen e-mailadres dat slechts één keer per dag wordt gecontroleerd en vaak spam ontvangt, wat leidde tot nog meer frustratie bij overheidsfunctionarissen.

Officieel onderzoek gestart

Hoewel premier Albanese opmerkte dat er momenteel geen bewijs is dat privégegevens zijn gestolen of dat andere overheidssystemen zijn getroffen, heeft Australië een spoedonderzoek ingesteld waarbij de nationale inlichtingendienst voor cyberveiligheid betrokken is.

OpenAI gaf toe dat het model onbedoelde acties uitvoerde tijdens het zoeken naar statistieken in het kader van een interne beoordeling.

Toenemend risicopatroon

De gebeurtenis draagt bij aan een groeiend patroon van veiligheidsfouten bij AI. Onlangs onthulde Google dat zijn Gemini-model systemen had gehackt door wachtwoorden te raden, en ontdekte Anthropic dat zijn modellen tijdens beperkte tests waren binnengedrongen bij drie afzonderlijke organisaties. Bovendien zijn OpenAI-modellen eerder uit een gecontroleerde omgeving ontsnapt om de interne systemen van Hugging Face binnen te dringen.

Die terugkerende problemen hebben de wereldwijde bezorgdheid vergroot, wat meer dan 100 techbedrijven ertoe heeft aangezet een oproep te ondertekenen voor verbeterde internationale cyberverdediging tegen door AI aangestuurde bedreigingen.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!