De Italiaanse privacywaakhond heeft vrijdag een nationaal verbod opgelegd aan de populaire chatbot ChatGPT, vanwege vermeende privacyschendingen.

De essentie: Volgens de privacywaakhond, de Garante per la Protezione dei Data Personali, houdt het bedrijf achter ChatGPT, OpenAI, zich niet aan de Europese regels in verband met de vergaring van persoonsgegevens.

• Het verbod is tijdelijk, totdat het Amerikaanse bedrijf zich houdt aan de privacywet van de EU, de Algemene Verordening Gegevensbescherming (GDPR).
• De ban is volgens de Italiaanse autoriteiten het resultaat van een datalek dat ChatGPT vorige week leed, waardoor gesprekken en betalingsinformatie van gebruikers op straat kwamen te liggen.
  • Ook verifieert OpenAI de leeftijd van gebruikers niet en “stelt het minderjarigen bloot aan absoluut ongeschikte antwoorden in vergelijking met hun graad van ontwikkeling en zelfbewustzijn”.
• OpenAI heeft nu 20 dagen de tijd om mee te delen hoe het bedrijf zijn chattool in overeenstemming gaat brengen met de EU-privacyregels. Als het hier niet in slaagt, krijgt het een boete van maximaal 4 procent van zijn wereldwijde omzet.
• OpenAI heeft nog niet op het nieuws gereageerd.

De achtergrond: Elon Musk en tientallen AI-deskundigen riepen eerder deze week op om onderzoek naar geavanceerde AI stil te zetten. Zij willen garanties dat de technologie niet ongecontroleerd wordt ontwikkeld en zeggen dat het risico voor de mensheid groot is.

• Consumentenbelangengroep BEUC riep eerder deze week EU- en nationale autoriteiten, waaronder waakhonden voor gegevensbescherming, op om ChatGPT te onderzoeken. 
• De autoriteit zei dat het bedrijf geen rechtsgrondslag heeft dat “het massaal verzamelen en opslaan van persoonsgegevens (…) om de algoritmen te ’trainen'” van ChatGPT rechtvaardigt. Het bedrijf verwerkt ook gegevens op onnauwkeurige wijze, voegde het eraan toe.
• Ook politiedienst Europol slaat alarm en waarschuwt voor misbruik van chatbots door criminelen.

(dv)