Amazon heeft een moratorium van een jaar ingesteld op zijn gezichtsherkenningssysteem voor politiediensten. De service is erg controversieel.
Na de dood van George Floyd in Minneapolis is er erg veel discussie over de werking van de politiediensten in de Verenigde Staten. Gezichtsherkenningsdiensten liggen daarom ook onder vuur. Floyd was een ongewapende, zwarte man. Uit onderzoek blijkt dat gezichtsherkenningsprogramma’s moeite hebben met het herkennen van zwarte mensen. Ze worden daardoor vaak onterecht beschuldigd. Vooral zwarte vrouwen correct herkennen is erg moeilijk voor de software.
Rekognition
Amazon releasete in 2016 Rekognition. Dat is een software die mensen en objecten moet identificeren in stilstaande beelden. Het kan mensen vergelijken met beelden uit een database.
Ook Microsoft en Google hebben trouwens gelijkaardige diensten. Maar de service van Amazon is het onderwerp van debat, ook in het Congres van de Verenigde Staten. Ook IBM heeft een gezichtsherkenningsdienst, zij schrapten die van het programma.
Regelgeving
Nina Lindsey, de woordvoerster van Amazon, zegt in een blog dat ‘overheden sterkere regels moeten ontwikkelen om het ethisch gebruik van gezichtsherkenningssoftware te garanderen. Het Congres lijkt klaar om stappen in die richting te ondernemen. We hopen dat dit moratorium van een jaar het Congres genoeg ruimte geeft om goede wetgeving te ontwikkelen. We staan klaar om te helpen als dat nodig is.’
In het Amerikaanse parlement werden inderdaad wetten voorgesteld die onder andere het gebruik van bodycams op politie-agenten aan banden moeten leggen.
‘Computers ook niet verbieden’
Amazon heeft altijd weigerachtig gestaan tegenover het beperken van zijn software. In 2018 redeneerde het bedrijf in een blogpost dat ‘computers verbieden omdat ze schade kunnen aanrichten, ook een vreemde zet zou zijn.’ Het is dus erg uitzonderlijk dat er nu een rem op Rekognition wordt gezet.
Het bedrijf van Jeff Bezos benadrukte wel dat andere bedrijven wel nog gebruik kunnen maken van Rekognition. Het is niet duidelijk hoeveel politiediensten de software precies gebruiken.