Facebook en Twitter hebben vrijdag een netwerk van pro-Trump nepaccounts van hun platforms verwijderd. Die accounts werden in totaal door 55 miljoen mensen gevolgd. De valse accounts pushten voortdurend pro-Trump-berichten.

De eigenaars van deze accounts deden zich voor als Amerikanen, maar waren dat niet. In werkelijkheid werden profielfoto’s op het netwerk gegenereerd via artificiële intelligentie. De gezichten van de vermeende eigenaars van de accounts leken met andere woorden echt, maar werden door computers ontwikkeld.

In een blogpost schrijft Facebook dat de accounts werden ontwikkeld door een in de VS gevestigd mediabedrijf genaamd ‘The BL’. Dat zou banden hebben met de Epoch Media Group. De Amerikaanse nieuwszender NBC News had deze zomer al gemeld dat de Epoch Media Group pro-Trump materiaal verspreidde op sociale mediaplatforms zoals Facebook en Twitter. Epoch heeft op zijn beurt banden met Falun Gong, een Chinese spirituele gemeenschap die in eigen land wordt vervolgd. Epoch Media ontkent dat ze banden heeft met ‘The BL’, maar Facebook zegt over voldoende bewijsmateriaal te beschikken.

Door A.I. gegenereerde gezichten

Facebook merkte op dat veel van de nepaccounts die in de campagne werden gebruikt, profielfoto’s hadden die door A.I. leken te zijn gegenereerd. Die accounts deden zich voor als Amerikanen en plaatsten “met zeer hoge frequentie” pro-Trump berichten in andere Facebookgroepen. De accounts en pagina’s werden beheerd door particulieren in de VS en Vietnam.

Facebook heeft nu in totaal 610 accounts, 89 Facebook-pagina’s, 156 groepen en 72 Instagram-accounts die aan ‘The BL’ zijn gelinkt verwijderd. 

Ongeveer 55 miljoen accounts volgden een van deze Facebookpagina’s en 92.000 volgden op zijn minst een van de Instagramaccounts. De organisatie zou volgens Facebook ruim 9,5 miljoen dollar hebben uitgegeven aan advertenties.

Nathaniel Gleicher, die verantwoordelijk is voor het beveiligingsbeleid van Facebook, bevestigt dat ‘The BL’ van het netwerk is verbannen. ‘We blijven alle netwerken onderzoeken en zullen actie ondernemen indien we bedrog vaststellen.’