China voorspelt misdaden nog voordat ze gebeuren, dankzij kunstmatige intelligentie en slimme camera’s

De meer dan 1,4 miljard mensen die in China wonen, worden voortdurend in de gaten gehouden. Politiecamera’s op straathoeken en in metrohallen volgen forenzen op weg naar hun werk, terwijl smartphones een kostbare schat aan informatie met zich meedragen in de vorm van online chats en aankopen. De Chinese overheid gaat nu zelfs zo ver, dat ze proberen toekomstige misdaden te voorspellen, nog voor ze hebben plaatsgevonden. Dat meldt de New York Times op basis van eigen onderzoek.

Hoe surveilleert de Chinese politie de toekomst? Dat doen ze door overal camera’s te plaatsen en mensen uit de menigte te pikken, waarvan ze denken dat ze mogelijk problemen zullen veroorzaken. En die strategie lijkt steeds meer realiteit te worden in China.

De autoriteiten in het land verzamelen grote hoeveelheden data in de vorm van beeldmateriaal, persoonsgegevens, DNA, gezichtsscans, stemgeluid en leefpatronen van individuen die helpen bij het identificeren van bedreigingen voor de Chinese regering. 

De nieuwste, state of the art, technologie van de overheid – in de vorm van een algoritme – doorzoekt de enorme hoeveelheden data van Chinezen, om daar “afwijkende patronen” in te vinden. Op deze manier hoopt het om misdaden of protesten te voorspellen, nog voordat ze daadwerkelijk hebben plaatsgevonden.

Het systeem is gericht op potentiële onruststokers – in de ogen van de Chinese regering – maar ook op diegenen met een crimineel verleden. Kwalijker is dat ook kwetsbare groepen, waaronder etnische minderheden, migrerende werknemers en mensen met een verleden van geestelijke aandoeningen speciale aandacht krijgen van het systeem.

Het systeem kan in het geval van een afwijking de politie waarschuwen, zoals bijvoorbeeld een drugsgebruiker die “te vaak” naar hetzelfde nummer belt. Ook kan het alarm slaan wanneer een persoon te lang blijft rondhangen op een station, omdat het dan mogelijk een zakkenroller is.

Een belangrijke Chinese fabrikant van de software is het technologiebedrijf Megvii. Het bedrijf heeft een database waarin gezichten, foto’s, auto’s en beelden van incidenten worden opgeslagen. Het systeem wordt al gebruikt door de politie in Tianjin, in het noorden van China.

Verstikkende bewaking

De Chinese surveillancesystemen dringen echter steeds dieper door in het leven van gewone mensen, waardoor de grenzen van de sociale en politiek controle zich steeds nauwer vormen rondom het individu.

“China is een onzichtbare kooi van technologie, die aan de samenleving wordt opgedrongen”, zegt Maya Wang, een onderzoeker bij de Human Rights Watch tegen de New York Times. “De onevenredig zware lasten ervan worden gevoeld door groepen mensen die al zwaar gediscrimineerd worden”.

Zo was er volgens de New York Times in 2020 een Chinese vrouw die naar Hong Kong wilde verhuizen, om daar samen met haar man te zijn. De autoriteiten weigerden echter haar verzoek, omdat software had gewaarschuwd dat het huwelijk “verdacht” was. Uit onderzoek bleek dat de twee niet vaak genoeg op hetzelfde moment op dezelfde plaats waren en de vakantie van het Chinese Spring Festival niet samen hadden doorgebracht. De politie concludeerde dat de twee het huwelijk dus in scène hadden gezet, op basis van triviale en arbitraire bevindingen.

Risicobeoordeling in de vorm van een kleurcode

Sinds het begin van de uitbraak van het coronavirus, worden Chinese burgers onderworpen aan een vorm van risicobeoordeling. Een algoritme kent mensen een kleurcode toe, groen, geel of rood, die bepaalt of ze met het openbaar vervoer mogen reizen of specifieke gebouwen binnen mogen. Deskundigen vrezen dat in een geavanceerd digitaal systeem, zoals dat van China, dergelijke kleurcodes ook gebruikt worden om iemands vermeende politieke voorkeur te beoordelen.

De Chinese regering gebruikt daarbij vaak grote historische gebeurtenissen om nieuwe, strenge, toezichtmaatregelen in te voeren én te verankeren. In de aanloop naar de Olympische Spelen van 2008 in Beijing kregen de Chinese veiligheidsdiensten een nieuw niveau van controle over het internet van het land.

Laboratorium

Digitale bewaking in China is onderwijl een onderdeel van het dagelijks leven geworden, geholpen door een sterke toename van AI-gestuurde gezichtsherkenningstechnologie. De risico’s van dergelijke systemen, die gestuurd worden door kunstmatige intelligentie, zijn echter groot. De systemen zijn niet neutraal en weerspiegelen vooroordelen van degene die het geschreven heeft.

Desondanks exporteerde China zijn technologie aan zeker 18 landen, waaronder Venezuela en Zimbabwe. In een poging om zijn greep op de macht uit te breiden, heeft het Maduro-regime in Caracas het land laten uitgroeien tot een laboratorium voor digitale bewaking en sociale controle. Moskou en Peking sturen hun surveillance-infrastructuur naar het Zuid-Amerikaanse land, waar het uitgebreid wordt getest.

(ns)

Meer
Markten
Mijn Volglijst
Markten
BEL20