Facebook heeft in een aankondiging gezegd dat het zogenaamde deepfakvideo’s en gemanipuleerde beelden zal verbieden.

Het was hét woord van 2019: deepfake. Een deepfakevideo is een filmpje waarin de beelden gemanipuleerd zijn op een manier die niet zichtbaar is met het blote oog.

Dat kan onschuldig zijn, maar vooral voor politieke figuren is het dat vaak niet. Politici die zaken gezegd hebben die ze niet hebben gezegd, pornografische beelden die eigenlijk gemanipuleerd zijn, vaak met artificiële intelligentie…: de gevolgen zijn niet mals.

Geen deepfake op Facebook

Dus heeft Facebook nu beslist om paal en perk te stellen aan deepfake. Dat doet het bedrijf op verschillende manieren. Zo zullen ze vreemd gedrag onderzoeken in AI-gegenereerde content. Daarnaast werkt Facebook ook samen met academici, overheden en de industrie om gemanipuleerde beelden sneller te kunnen spotten.

‘Er kan gemanipuleerd worden door eenvoudige technologieën zoals Photoshop, of via gesofisticeerde technieken zoals deep learning’, klinkt het bij Facebook. ‘Die technieken creëren content die de realiteit verdraait. Hoewel die video’s een uitzondering blijven, zijn ze een bijzondere uitdaging voor onze industrie en maatschappij.’

Wat is deepfake?

Deepfake die verwijderd zal worden, moet de volgende kenmerken hebben:

• Gesynthetiseerd of gemanipuleerd voor redenen die niets met duidelijkheid of kwaliteit te maken hebben. Als op die beelden valse citaten te zien zijn, zal Facebook ze verwijderen.
• Als de video het product is van AI of machine learning waarbij beelden worden samengevoegd of vervangen en het eindproduct ongemanipuleerd overkomt.

Comedy, entertainment en satire mogen uiteraard blijven bestaan, zegt Facebook aan de Amerikaanse nieuwswebsite Business Insider. Content die gemeld wordt bij Facebook, zal door factcheckers bekeken worden. Gebruikers die de video delen, zullen een waarschuwing krijgen.