Key takeaways

• Chinese groepen gebruiken ChatGPT voor geheime activiteiten.
• Deze groepen gebruiken generatieve AI-technologie om mensachtige tekst en afbeeldingen te produceren, wat zorgen baart over het mogelijke misbruik ervan.
• Het bedrijf publiceert regelmatig rapporten over schadelijke activiteiten die op zijn platform zijn gedetecteerd, waaronder het maken en debuggen van malware en het genereren van misleidende inhoud voor websites en sociale media.

Recente bevindingen van OpenAI laten een groeiende trend zien van Chinese groepen die ChatGPT gebruiken voor geheime activiteiten. Ondanks de groeiende reikwijdte en tactieken van deze groepen, blijven de gedetecteerde operaties relatief kleinschalig en gericht op een beperkt publiek.

Ontstaan van generatieve AI-technologie

OpenAI schrijft deze toename toe aan de opkomst van generatieve AI-technologie zoals ChatGPT, die moeiteloos mensachtige tekst, afbeeldingen en audio kan produceren, wat zorgen baart over het mogelijke misbruik ervan. Het bedrijf publiceert regelmatig rapporten over schadelijke activiteiten die op zijn platform zijn gedetecteerd, waaronder het maken en debuggen van malware en het genereren van misleidende inhoud voor websites en sociale media.

Een voorbeeld dat OpenAI aanhaalt, betreft het bannen van ChatGPT-accounts die gebruikt werden om politiek geladen posts op sociale media te genereren. Deze posts bevatten kritiek op een Taiwan-georiënteerd videospel, valse beschuldigingen tegen een Pakistaanse activist en inhoud gerelateerd aan de sluiting van USAID. Veel operaties genereerden zowel initiële posts als bijbehorende antwoorden, waardoor de illusie van echte betrokkenheid werd gecreëerd.

AI gebruikt voor beïnvloedingscampagnes

Verder ontdekte OpenAI gevallen waarin aan China gelinkte bedreigingsactoren AI gebruikten om verschillende stadia van hun cyberoperaties te ondersteunen. Dit omvatte open-source onderzoek, scriptaanpassing, probleemoplossing voor systeemconfiguraties en de ontwikkeling van tools voor het kraken van wachtwoorden en automatisering van sociale media. Een ander voorbeeld betrof een beïnvloedingsoperatie van Chinese origine die gepolariseerde sociale media-inhoud genereerde ter ondersteuning van standpunten over politieke kwesties die de VS verdelen, waarbij zowel tekst als door AI gegenereerde profielafbeeldingen werden gebruikt.

Hoewel de bevindingen van OpenAI de spotlight werpt op de zorgwekkende trend van misbruik van ChatGPT door Chinese groepen, benadrukt Nimmo dat deze operaties grotendeels in hun beginstadium werden verstoord en en niet wijdverspreid raakten. Hij concludeerde dat ondanks de toegang tot geavanceerde tools, deze operaties geen significante impact hadden vanwege hun inherente beperkingen.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!