Amerikaanse politie arresteert mensen puur op basis van gezichtsherkenningssoftware


Key takeaways

  • Vijftien politieafdelingen hebben arrestaties verricht uitsluitend op basis van gezichtsherkenningssoftware zonder aanvullend bewijs te zoeken.
  • Ten minste acht personen zijn onterecht gearresteerd op basis van AI-gebaseerde identificaties, waaronder twee eerder ongedocumenteerde gevallen.
  • Veel politieafdelingen hebben geen transparantievereisten over hun gebruik van gezichtsherkenningstechnologie.

Een recent onderzoek van de Washington Post onthult een zorgwekkende trend van politieafdelingen in het hele land die misbruik maken van gezichtsherkenningssoftware. Uit het onderzoek bleek dat veel afdelingen arrestaties verrichten die alleen gebaseerd zijn op AI-matches zonder aanvullend bewijs te zoeken, waarbij ze vaak het interne beleid negeren dat een bevestiging verplicht stelt.

Van de 23 afdelingen met beschikbare gegevens, hebben vijftien afdelingen in twaalf staten verdachten gearresteerd die alleen op AI-overeenkomsten waren gebaseerd. In deze gevallen ging het vaak om rapporten waarin niet-geverifieerde AI-matches als “100 procent overeenkomsten” werden bestempeld of waarin werd beweerd dat de technologie een verdachte “onomstotelijk” had geïdentificeerd. Ten minste acht personen in de VS zijn ten onrechte gearresteerd vanwege deze op AI gebaseerde identificaties, waarvan er twee eerder ongedocumenteerd waren. Hoewel alle zaken uiteindelijk werden geseponeerd, hadden basisonderzoeksprocedures zoals alibi-controles en het vergelijken van fysiek bewijsmateriaal deze onterechte arrestaties kunnen voorkomen.

Zorgen over transparantie

De ware omvang van AI-gestuurde valse arrestaties blijft onduidelijk omdat de meeste afdelingen geen transparantie-eisen stellen aan hun gebruik van gezichtsherkenningstechnologie.

Het onderzoek van The Post omvatte 75 politieafdelingen, met gedetailleerde gegevens van 23 afdelingen waaruit bleek dat bijna tweederde van de afdelingen die AI gebruikten voor arrestaties, de overeenkomsten niet bevestigden met ander bewijsmateriaal. Veel afdelingen weigerden hun werkwijze te bespreken of beweerden dat agenten vertrouwden op hun visuele oordeel om de AI-resultaten te bevestigen.

Resultaten

In Florence, Kentucky, heeft de politie in minstens vier gevallen niet-geverifieerde AI-matches gebruikt, met wisselende uitkomsten. Lokale aanklager Louis Kelly verdedigde het oordeel van agenten bij het identificeren van verdachten, inclusief de verdachten die door het AI-systeem waren gemarkeerd.

De Washington Post onderzocht de gezichtsherkenningspraktijken van 75 politieafdelingen en concentreerde zich daarbij op gedetailleerde gegevens van 23 afdelingen. Uit het onderzoek bleek dat vijftien afdelingen, waaronder Austin, Detroit en Miami, arrestaties verrichtten uitsluitend op basis van AI-overeenkomsten zonder onafhankelijke verificatie.

Sommige afdelingen beschikten niet over voldoende gegevens of transparantie, terwijl andere dubieuze methoden gebruikten zoals het ter bevestiging voorleggen van AI-geïdentificeerde foto’s aan getuigen. Hoewel interviews in bepaalde gevallen opheldering gaven, blijft het vertrouwen op onbevestigde AI-identificaties een wijdverbreid probleem.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!

Meer

Ontvang de Business AM nieuwsbrieven

De wereld verandert snel en voor je het weet, hol je achter de feiten aan. Wees mee met verandering, wees mee met Business AM. Schrijf je in op onze nieuwsbrieven en houd de vinger aan de pols.