Het controversiële softwarebedrijf voor gezichtsherkenning, Clearview AI, heeft er maandag mee ingestemd dat het zijn software niet meer zal verkopen aan niet-gouvernementele bedrijven in de VS. Hierdoor zal de software alleen nog maar gebruikt kunnen worden door de politiediensten in het land.
Het besluit van Clearview AI maakt deel uit van een rechtszaak in de staat Illinois, die twee jaar geleden is aangespannen tegen het bedrijf door de American Civil Liberties Union. Als onderdeel van de schikking stemt Clearview nu in met een verbod op de verkoop van zijn software aan private bedrijven in de VS. Daarnaast mag de softwarefabrikant niet meer een gratis proefversie van zijn software aanbieden aan individuele politieagenten zonder de toestemming van hun superieuren.
Dat laatste gebeurde in België, waar uit intern onderzoek bleek dat twee Belgische rechercheurs de software hebben getest tijdens een vergadering met Europol. Het Controleorgaan op de Politionele Informatie was kritisch op de Belgische politie. Het orgaan merkte daarnaast op dat er persoonlijke foto’s naar een commercieel bedrijf buiten de EU zijn verzonden. “De federale politie lijkt niet te beseffen dat daardoor niet alleen politionele foto’s aan een commercieel bedrijf worden doorgestuurd, noch dat biometrische gegevens sindsdien door het bedrijf Clearview bijgehouden worden”.
Foto’s geschraapt van Facebook
Clearview AI werd in 2017 opgericht en heeft miljoenen foto’s verzameld in een database waar zijn gezichtsherkenningssoftware gebruik van maakt. Het bedrijf beweert meer dan 20 miljard foto’s van het internet te hebben geschraapt, waaronder van Facebook, Instagram en Twitter, als ook van nieuwssites en websites van mugshots. Dit is allemaal gebeurd zonder medeweten en toestemming van de geportretteerden.
Grote techbedrijven hebben Clearview in het verleden al aangesproken op zijn activiteiten, die volgens hun servicevoorwaarden niet toegestaan zijn. De software van het bedrijf is daarom verboden in bijvoorbeeld Canada en Australië. Italië legde het bedrijf een boete van 20 miljoen euro op vanwege deze praktijken.
Systemen zijn niet neutraal en weerspiegelen vooroordelen
De markt voor herkenningssoftware groeit en wordt steeds meer toegepast in ons dagelijks leven. Zo kun je in de Chinese stad Shenzen een boete krijgen als je door het rood loopt; camera’s met gezichtsherkenning houden er oversteekplaatsen in de gaten. In Rusland is er NtechLab, dat nummerborden en gezichten leest en in België hangen er ANPR-camera’s.
Dat dergelijke systemen niet waterdicht zijn is meerdere malen aangetoond. Geautomatiseerde systemen zijn niet neutraal en weerspiegelen vooroordelen van degene die de software schrijven. Zo was er het verhaal van Robert Williams, die valselijk werd gearresteerd op basis van gezichtsherkenning. En in China testte Huawei software om gezichten van Oeigoeren te herkennen. In geval van een ‘match’ kon er een automatisch signaal afgaan bij de Chinese veiligheidsdiensten.
(ns)