Volgens het politiedepartement van Detroit, dat gezichtsherkenningssoftware gebruikt, werkt die technologie slechts 4 procent van de tijd.

Wat? De politiechef van Detroit, James Craig, zegt op een persconferentie dat de gezichtsherkenningssoftware die zijn team gebruikt, 96 procent van de tijd een verkeerd resultaat geeft. ‘Als we enkel de software konden gebruiken, zouden we 95 tot 97 procent van de zaken niet kunnen oplossen. Dat is als we enkel op de software zouden rekenen, wat we momenteel niet doen’, zegt Craig.

Op de achtergrond: Vorige week was er een eerste geval van een gearresteerde die verkeerd was herkend door de software. Volgens The New York Times werd een man, die helemaal niet op de beoogde verdachte leek, gearresteerd omdat de computer hem herkende. Na dertig uur werd hij vrijgelaten, toen bleek dat de software de bal had misgeslagen.

Hoe werkt het? In Detroit gebruikt de politie software van DataWorks Plus. Dat bedrijf claim dat zijn face-rec niet bedoeld is als de enige manier om mensen te identificeren. Het systeem ’toont verschillende kandidaten’, zegt Todd Pastorini van DataWorks daarover aan nieuwswebsite Vice.

Het probleem met gezichtsherkenning: Er is al een tijdlang protest aan de gang tegen het gebruik van gezichtsherkenningssoftware door de politiediensten. Volgens verschillende onderzoeken is de software niet betrouwbaar, zeker bij zwarte en Aziatische mensen. Die worden vaker verkeerd geïdentificeerd. De bevolking van Detroit is overwegend zwart, 80 procent van de inwoners geeft dat aan tijdens de laatste bevolkingstelling.

De grote spelers: zoals Microsoft, Apple en Amazon hebben intussen een evaluatie van hun klantenlijst gedaan. Zij zullen niet meer verkopen aan politiediensten. Dat wil niet zeggen dat de software van de markt is. ClearView, een Amerikaans bedrijf, heeft een klantenlijst van ruim 2.000 bedrijven, overheden en politiediensten.

De politie van Detroit gebruikte in 2020 een zeventigtal keer gezichtsherkenningssoftware.