Als u een fobie hebt voor killer robots, kan dit VN-rapport u nachtmerries bezorgen. Vorig jaar richtte een autonome drone zich op terugtrekkende soldaten in Libië. Op eigen houtje.
Dat maakte het tijdschrift New Scientist bekend, dat naar eigen zeggen een recent rapport van de VN-veiligheidsraad heeft kunnen inkijken. Het incident vond plaats in maart 2020 in Libië, waar een burgeroorlog woedt.
De aanval werd uitgevoerd door een drone genaamd Kargu-2, een gevechtsdrone gemaakt door het Turkse bedrijf STM. In zijn ‘autonome’ modus is er geen dataverbinding nodig tussen de ‘operator en de munitie’. Met andere woorden: het toestel kan op eigen houtje besluiten aan te vallen, zonder menselijke instructies te hebben ontvangen.
De Kargu-2 kan worden uitgerust met een explosieve lading en kan worden ingezet voor kamikaze-aanvallen.
Primeur
Het incident vond plaats tijdens een gevecht tussen Libische regeringstroepen en een afgescheiden fractie onder leiding van Khalifa Haftar, de bevelhebber van het zelfverklaarde Libische Nationale Leger. Strijders van laatstgenoemden vormden het doelwit.
‘De logistieke konvooien en militairen van generaal Haftar werden opgespoord nadat ze zich hadden teruggetrokken. De aanvallen werden op afstand ingezet door gevechtsdrones en dodelijke autonome wapensystemen zoals de Kargu-2 STM. […] De dodelijke autonome wapensystemen waren geprogrammeerd om doelen aan te vallen zonder dat er contact nodig was tussen de bediener en de kunstmatige intelligentie’, schreven de VN-experts.
In haar rapport specificeert de VN niet of de aanval dodelijke slachtoffers heeft gemaakt.
‘Dit is waarschijnlijk de eerste keer dat drones mensen hebben aangevallen zonder daarvoor instructies gekregen te hebben’, aldus Zak Kellenborn, een van de auteurs van het rapport.
Kellenborn is consultant nationale veiligheid, gespecialiseerd in onbemande systemen en drones, en maakt zich zorgen: ‘Hoe kwetsbaar is het objectherkenningssysteem? Hoe vaak worden doelen verkeerd geïdentificeerd?’ vraagt hij zich af.
Wereldmachten willen niet stoppen
Al enkele jaren roepen verschillende experts landen op om een wetgeving inzake killer robots op te stellen. Dit incident, het eerste in zijn soort, vergroot hun bevreesdheid en bevestigt dat die volkomen legitiem is.
Al bijna tien jaar voert een coalitie van 170 ngo’s campagne om een definitief einde te maken aan de ontwikkeling en de verkoop van volledig autonome wapens. Human Rights Watch is een van de drijvende krachten achter de campagne. ‘Wapensystemen die doelen selecteren en aanvallen zonder betekenisvolle menselijke controle zijn onaanvaardbaar en moeten worden voorkomen’, zo waarschuwt de mensenrechtenorganisatie.
Volgens een rapport dat afgelopen zomer door Human Rights Watch is gepubliceerd, zijn 30 landen voorstander van een verbod op de ontwikkeling van deze killer robots. Onder hen slechts één Europese natie: Oostenrijk. Slechts één supermacht in de wereld behoort ook tot de voorstanders van dit project: China. Maar het Aziatische land verzet zich wel alleen tegen het gebruik (en dus niet tegen het onderzoek en de productie) van deze volledig autonome wapens.
In 2018 onthulde Politico dat een kleine groep landen – maar niet de minste – had verhinderd dat er in de VN over het verbod op deze wapens werd gesproken. Rusland, de Verenigde Staten, Zuid-Korea, Israël en Australië behoorden tot de voornaamste tegenstanders.
(adl)