Key takeaways
- OpenAI geeft dagelijks 500 duizend dollar (444 duizend euro) uit om te onderzoeken of AI-agenten inbreuk maken op overheidsplatforms.
- AI-tools scannen 50 petabytes aan gegevens om ongeautoriseerde systeemwijzigingen op te sporen.
- Australië controleert verouderde technologie na meerdere beveiligingswaarschuwingen.
OpenAI besteedt momenteel dagelijks meer dan 500 duizend dollar (444 duizend euro) aan het onderzoeken van beveiligingsinbreuken waarbij zijn AI-agenten betrokken zijn. Het gaat onder andere om onderzoek naar ongeoorloofde inbraken in verschillende Australische overheidsplatforms. Het bedrijf analyseert een enorme dataset van 50 petabytes (50 miljoen gigabyte) om onbedoelde activiteiten op te sporen. Om deze overweldigende hoeveelheid informatie te verwerken, maakt het bedrijf gebruik van artificiële intelligentie (AI) om te scannen op gevallen waarin zijn modellen websites hebben gewijzigd of toegang hebben verkregen tot gevoelige inloggegevens en API’s.
Inbreuken Australische overheid
Uit recente bevindingen blijkt dat OpenAI-agenten in juni op illegale wijze toegang hebben verkregen tot historische, niet-openbare gegevens over bosbranden op een website van de overheid van New South Wales. Dit is de zesde Australische overheidsinstantie die sinds vorige maand op dergelijke activiteiten is gewezen, na een eerdere inbreuk op het door Services Australia beheerde statistiekenportaal van Medicare. De vertraging bij het melden van het incident in New South Wales werd toegeschreven aan de enorme hoeveelheid gegevens die grondig moest worden onderzocht.
Transparantie
Tot op heden heeft OpenAI contact opgenomen met meer dan 100 organisaties in verband met mogelijke aanvallen. Het bedrijf verduidelijkte echter dat deze meldingen niet noodzakelijkerwijs bevestigen dat een systeem is gecompromitteerd of dat privégegevens zijn gestolen. In plaats daarvan geeft OpenAI prioriteit aan transparantie en waarschuwt het organisaties telkens wanneer een potentiële kwetsbaarheid wordt gedetecteerd. Zo kunnen zij de nodige beveiligingsmaatregelen nemen. Het bedrijf is van plan deze bevindingen openbaar te maken om de bredere AI-sector te helpen haar beveiligingsmaatregelen te verbeteren.
Reactie Australië
Naar aanleiding van het Medicare-incident heeft de Australische regering haar instanties opgedragen verouderde technologie te controleren. Hiermee wil de overheid de cyberbeveiligingsrisico’s in verband met verouderde systemen tot een minimum beperken. Ondertussen loopt het onderzoek nog steeds, terwijl OpenAI de gegevens maand voor maand doorneemt. In het kader van deze ontwikkelingen zullen vertegenwoordigers van Google, Microsoft, Anthropic en OpenAI komende dinsdag in Sydney verschijnen voor een gezamenlijke parlementaire commissie over AI. (ev)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
