Instagram gaat de komende weken starten met het testen van een functie die als doel heeft om ‘sextortion’ tegen te gaan. ‘Sextortion’ is een nieuwe vorm van blackmail, waarbij naaktfoto’s naar minderjarigen gestuurd worden met de vraag om een naaktfoto terug te sturen. Wanneer de minderjarige dan een foto terugstuurt, wordt die gebruikt als chantagemiddel.

Instagram heeft een nieuwe strategie uitgewerkt om het probleem rond ‘sextortion’ (seksuele afpersing) op het platform aan te pakken. Het dochterbedrijf van Meta reageert daarmee op verschillende recente feiten. Eerder deze week werden twee Nigeriaanse mannen namelijk veroordeeld voor de seksuele afpersing van verschillende tieners in de Verenigde Staten. Een van deze tieners pleegde zelfmoord als gevolg van deze chantage. Ook in Australië wordt een zelfdoding gelinkt aan ‘sextortion’.

Sextortion

‘Sextortion’ is de term waarmee seksuele afpersing (sexual extortion) omschreven wordt. Het gaat om een vorm van chantage waarbij iemand een naaktfoto stuurt via een privébericht op sociale media. Daarbij stelt de persoon ook de vraag of hij/zij/die een naaktfoto terug kan krijgen. Wanneer het slachtoffer dan een naaktfoto terugstuurt, wordt die gebruikt als chantagemateriaal waarbij gedreigd wordt om de foto’s publiek te delen als het slachtoffer niet doet wat de chanteerder vraagt. Deze methode wordt ook gebruikt door pedofielen om naaktfoto’s van minderjarigen te verwerven.

Een platform waar vaak aan deze vorm van afpersing wordt gedaan, is Instagram. In de app is het mogelijk om foto’s te sturen via DM of privébericht, waardoor je via deze weg dus ook naaktfoto’s kan verzenden en ontvangen. Maar Instagram wil nu iets doen aan het misbruik hiervan.

Artificiële Intelligentie

Met behulp van artificiële intelligentie zal Instagram kunnen achterhalen of er naakt te zien is op de foto’s die verzonden worden. Als dat het geval is, zullen minderjarigen de foto niet meteen te zien krijgen. Ze zullen eerst een geblurde foto zien, waarbij ze de keuze krijgen of ze de foto al dan niet willen bekijken. Bij minderjarigen zal deze functie automatisch ingeschakeld worden. Volwassenen krijgen de keuze of ze deze al dan niet willen gebruiken.

Op deze manier wil Instagram tegengaan dat mensen ongewenste naaktfoto’s te zien krijgen. Deze foto’s worden niet automatisch gerapporteerd, maar gebruikers krijgen bij het ontvangen van een naaktfoto wel een reminder dat ze de gebruiker die de foto stuurde, kunnen blokkeren en/of rapporteren.

Ook wanneer iemand zelf een naaktfoto verzendt, zal deze persoon enkele waarschuwingen krijgen, waaronder de herinnering dat mensen die de foto ontvangen deze kunnen opslaan of doorsturen. De nieuwe functie zal er ook voor kunnen zorgen dat mogelijke ‘sextortionisten’ sneller opgespoord kunnen worden. Wanneer Instagram vermoedens heeft dat iemand aan ‘sextortion’ doet, zullen berichten verzonden door deze persoon automatisch in de map met verborgen verzoeken terechtkomen. Daarnaast kunnen de mensen die berichten sturen met mogelijke ‘sextortionisten’ een waarschuwing krijgen en kan de ‘Bericht’-knop op het profiel van deze personen verborgen worden voor minderjarigen waardoor ze dus geen berichten kunnen sturen.