Nina Schick is een auteur en gerenommeerd keynote speaker, gespecialiseerd is technologie en artificiële intelligentie. In 2020 publiceerde ze haar eerste boek, “Deep Fakes and the Infocalypse: What You Urgently Need to Know”. Schick is afgestudeerd aan de Universiteit van Oxford en de Harvard Kennedy School of Government. In de aanloop naar de beurs Cybersec Europe (op 19 en 20 april in Brussels Expo) deelde ze in een exclusief interview met Business AM haar visie op de impact van Artificiële Intelligentie (AI) op onze samenleving.

AI is goed in het creëren van nepnieuws en -beelden. Dat ondermijnt de democratie. Waarom is dit niet illegaal?

“Waarom is het niet illegaal? Ik heb een boek geschreven over AI gegenereerde content, waarin ik een zeer dichte benadering nam van hoe dit informatie gaat ondermijnen. De integriteit, hoe dit de democratieën gaat ondermijnen, hoe dit een krachtige nieuwe vector is voor identiteitsdiefstal en fraude. 

“Een van de echt verbazingwekkende dingen over generatieve AI, of AI gegenereerde content, is dat AI kan leren om iedereen te klonen. Als ik genoeg trainingsdata heb – digitale media van jou sprekend in een video of audio-opnames van je stem – kan dat gebruikt worden voor de training van de AI om je stem na te bootsen, om je gezicht na te bootsen.”

“Dus de allereerste plaats waarin generatieve AI begon te ontstaan in 2017 was in de pornografie. Omdat porno altijd zo pionierend is geweest en vrouwelijke identiteiten werden gestolen om ze in AI geassisteerde porno te steken.”

“Waarom hebben we niet gezegd dat dit illegaal was en reguleren we die identiteitsdiefstal niet? Het enige antwoord dat ik daarop kan geven is waarschijnlijk omdat de veranderingen zo snel zijn gegaan, of de vooruitgang zo snel gaat, dat beleidsmakers en regelgevers ver achterlopen.”

“Dus dat iets dat zo’n laaghangend fruit is als dit, het stelen van iemands identiteit om ze te klonen in kwaadaardige inhoud, niet als illegaal bestempeld wordt, is naar mijn mening een schande.” 

Waarom willen we dat machines zorgen voor het verwerken en genereren van onze media en onze content, wie wil dat?

“We hebben een cognitieve vooringenomenheid om dingen te willen geloven die er goed uitzien en goed klinken. Maar het is belangrijk om te onthouden dat AI gegenereerde inhoud niet alleen wordt ingezet of gebruikt met de uitdrukkelijke bedoeling om mensen te misleiden.”

“AI gegenereerde inhoud is er ook om, zoals ik al zei, onze ervaring van mensen anders te maken. Misschien beter, door dingen als onderzoek, door betere entertainmentervaringen, als een nieuwe infrastructuur voor communicatie, informatie en kennis.”

“Maar natuurlijk, een deel van dit is dat de integriteit van het informatie ecosysteem, de integriteit van alle media waar we mee omgaan, aangetast kan worden als we niet weten wat synthetisch is, wat authentiek is, wat nep is.”

“Als je het accepteert, zoals ik, dat AI een motor zal worden voor het creëren van inhoud en de kat uit de zak laat, dan is de volgende vraag wat we moeten doen zodat we nog steeds een zekere mate van van vertrouwen hebben in alle content waar we mee omgaan, en met het digitale informatie ecosysteem in het algemeen.”

“Voor mij is het antwoord volledige transparantie. Dus als je AI gebruikt om je content te maken, moet dit zichtbaar zijn en ondertekend worden. Het moet absoluut transparant zijn dat dit van een algoritme komt, dat dit AI gegenereerd is.”

“De technologie om dit te doen bestaat trouwens al. Volgende week gaan we het eerste stuk uitgeven van ondertekende AI gegenereerde inhoud. Dus dit zou iets moeten zijn dat als standaard wordt aangenomen op alle platforms, over het hele internet. Waarom maken we van het ecosysteem geen plaats waar het makkelijker is om de inhoud te vertrouwen waar we mee omgaan als de technologie daarvoor al beschikbaar is?”

? Meer in ons dossier Cybersecurity

(evb)