In het nieuws. Met technologieën zoals deepfakes kunnen AI-modellen beroemdheden en gewone mensen nabootsen, wat leidt tot misleidende of frauduleuze inhoud.

• Begin oktober haalde een stad in Spanje het wereldnieuws. Een aantal jonge schoolmeisjes zeiden dat ze valse naaktfoto’s van zichzelf hadden ontvangen. Die waren gemaakt met behulp van een gemakkelijk toegankelijke AI-“uitkleed-app”.
• De dreiging strekt zich uit tot persoonlijke veiligheid, met oplichters die stemmen nabootsen om te bedriegen.

Zoom in. Deepfake-technologie maakt gebruik van AI om realistische, maar valse content te creëren.

• De ontwikkeling van AI-modellen gaat zo snel dat het steeds moeilijker wordt om nep van echt te onderscheiden.
• Technologieën voor het detecteren van nepinhoud blijven achter bij de vooruitgang van het genereren van nepinhoud. Onderstaand fotomodel is niet echt. De dame werd door AI gecreëerd.

Zoom in. Historisch gezien hebben nieuwe technologieën vaak geleid tot vergelijkbare uitdagingen in de verspreiding van onwaarheden.

• De maatschappij past zich aan, waarbij de nadruk verschuift naar de bron van de inhoud in plaats van de inhoud zelf. Het beste voorbeeld zijn de roddelkranten.
  • Nepinhoud vertoont nog kinderziektes. Mensen hebben zes vingers aan hun hand en nepvideo en -audio lopen soms niet synchroon. Dat wekt al snel argwaan bij degenen die weten waartoe AI in staat is. Het probleem is dat de vervalsingen steeds moeilijker te herkennen zijn.
• De toekomst zal leiden tot meer nadruk op reputatie en herkomst als bewijs van authenticiteit. Wie iets post wordt met andere woorden belangrijker dan wat er wordt gepost.