De 21ste eeuw zal de geschiedenis ingaan als de start van een tijdperk waarin de mogelijkheden om de waarheid te manipuleren een ongekend niveau bereiken. Deepfake-video’s zijn daar maar een voorbeeld van. De graad van vernuft waarover mensen, bedrijven en overheden beschikken om ons met valse informatie te bestoken is ongezien. De illusie dat ons instinct ons de juiste weg zal wijzen, verdwijnt.
“In 2025 weet niemand nog wat waar en niet waar is op internet.” Het zal zelfs zolang niet duren…
Waarom is dit belangrijk?
De pessimistengids voor 2018 van het persagentschap Bloomberg bevatte een opmerkelijke voorspelling voor de toekomst. “In 2025 weet niemand nog wat waar en niet waar is op internet.” Maar het zal dus zolang niet duren.Zelfs experts kunnen het onderscheid niet meer maken
In het nieuws. Nepvideo’s op sociale media worden straks de regel, eerder dan de uitzondering, dankzij AI-technologie.
- Zelfs experts zeggen in privétests vaak geen onderscheid meer te kunnen maken tussen echt en nep.
De details. Deze technologie zal vanaf begin 2024 beschikbaar zijn voor iedereen, inclusief mensen die minder goede bedoelingen hebben.
Amerikaanse presidentsverkiezingen worden het eerste doelwit
Zoom in. Dit alles op een moment dat sociale mediaplatforms het toezicht op nepinhoud versoepelen en hun beleid verzwakken. Eerder dit jaar werden tienduizenden werknemers die in dit vakgebied actief waren ontslagen.
- De Amerikaanse presidentsverkiezingen van 2024 zullen worden gedomineerd door een toename van desinformatie en nepinhoud. En dat dus met minder controle door de grote platforms.
- De grootste zorg van de Amerikaanse overheid is het gebruik van deze technologie en andere AI-capaciteiten om kiezers te misleiden, consumenten op grote schaal op te lichten en cyberaanvallen uit te voeren.
- Ook het Rusland van Poetin ziet deze technologie als een ideale manier om de Verenigde Staten te verdelen.
Vluchten kan niet meer
Wat wordt eraan gedaan? Generatieve AI is toegankelijker (en geavanceerder) dan ooit, terwijl de uitgaven voor politieke advertenties de pan uit rijzen. Naar schatting zullen deze in 2024 de 10 miljard dollar overschrijden.
- Deze week introduceerden Microsoft en Meta nieuwe tools en beleidsregels voor Generatieve AI en verkiezingsadvertenties.
- Meta zei dat politieke adverteerders op FB en Insta verplicht zullen zijn om het gebruik van AI bekend te maken of mogelijk boetes tegemoet kunnen zien. Google kondigde in september een soortgelijke regel aan.
- Microsoft, dat bijna de helft van AI-reus OpenAI bezit, biedt politici een tool die naar eigen zeggen foto’s en video’s zal verifiëren met een traceerbaar digitaal watermerk. Het heeft ook een tweepartijdig wetsvoorstel gesteund dat misleidende AI-verkiezingscontent wil verbieden.
- Maar onderzoekers hebben ontdekt dat watermerktechnologie zoals die van Microsoft kan worden gemanipuleerd om AI-afbeeldingen valselijk te verifiëren.
“De instorting van het model”
Zoom out. Deepfake advertenties circuleren volop.
- Dit voorjaar publiceerde Republikeinse Nationale Comité een door AI gemaakte dystopische video met een visie op de herverkiezing van president Biden.
- Tegen 2026 zou volgens een rapport van Europol meer dan 90% van de online inhoud door AI kunnen worden gegenereerd, met risico op “instorting van het ganse model, wanneer AI zich verslikt in gegevens die zijn geproduceerd door andere AI en niet door mensen.”
- Vraag blijft of het verstandig is te vertrouwen op techbedrijven als Meta, Microsoft en Google – die allemaal zwaar investeren in AI – voor regelgeving en handhaving.
