Key takeaways
- Snelle besluitvormingscycli van artificiële intelligentie (AI) ontnemen menselijke operators elke zinvolle controle, volgens critici.
- Blackbox-algoritmen verhullen de redenering achter dodelijke fouten bij het selecteren van doelen.
- Systematische tekortkomingen in de verantwoordingsplicht verbergen de rol van AI bij burgerslachtoffers.
Deskundigen hebben het Amerikaanse Congres gewaarschuwd dat de integratie van artificiële intelligentie (AI) in militaire doelwitbepaling de besluitvormingscycli zodanig versnelt dat menselijke operators deze niet meer adequaat kunnen controleren. Tijdens een zitting van de Tom Lantos Human Rights Commission stelden sprekers dat louter menselijke goedkeuring geen garantie biedt voor daadwerkelijke controle, aangezien de snelheid van door AI aangestuurde aanbevelingen het personeel in feite de mogelijkheid ontneemt om in te grijpen of de conclusie van een systeem aan te vechten.
Verkorting van beslissingsvensters
Het Amerikaanse Ministerie van Defensie streeft actief naar een “AI-first“-aanpak in gevechtssituaties om efficiëntere en veerkrachtigere kill chains te creëren. Onderzoekers hebben echter benadrukt dat in conflictgebieden zoals Oekraïne de besluitvormingsvensters zijn teruggelopen van uren tot slechts enkele minuten. Door deze verkorting is het voor een leidinggevende die toezicht houdt op meerdere systemen vrijwel onmogelijk om een fout te signaleren voordat een aanval plaatsvindt. Hoewel de richtlijnen van het Pentagon een passend menselijk oordeel over het gebruik van geweld voorschrijven, vragen critici zich af of een dergelijk oordeel nog zin heeft wanneer de AI het proces te snel stuurt om verificatie mogelijk te maken.
Technische risico’s
Naast snelheid benadrukken ethici zoals Joseph Chapa de technische risico’s van statistische AI, die op basis van kleine wijzigingen in de invoer sterk uiteenlopende resultaten kan opleveren. In tegenstelling tot traditionele software kunnen deze complexe systemen ‘black boxes’ zijn. Hierdoor is het moeilijk om na een tragedie te reconstrueren hoe een specifiek doelwit werd aanbevolen. Chapa stelde dat het leger diepgaander onderwijs over AI en gespecialiseerde training nodig heeft om deze unieke faalwijzen te beheersen.
Systemische tekortkomingen in de verantwoordingsplicht
Het gebrek aan verantwoording voor burgerslachtoffers is een belangrijk punt van zorg. Ondanks het Actieplan voor het beperken van schade aan burgers en de respons daarop uit 2022, bracht een rapport van de inspecteur-generaal aanzienlijke tekortkomingen in de uitvoering ervan aan het licht. Deze systemische zwakte is bijzonder gevaarlijk wanneer er AI bij betrokken is, aangezien het leger momenteel geen robuust mechanisme heeft om vast te stellen of algoritmen hebben bijgedragen aan onterechte aanvallen.
Transparantie
Er werd een aangrijpend voorbeeld besproken met betrekking tot een aanval op een basisschool in Iran, die meer dan 160 doden tot gevolg had. Hoewel de school een bekende openbare instelling was met een aanwezigheid op sociale media, werd ze aangevallen in de buurt van een militaire installatie. Terwijl meer dan 100 wetgevers hebben gevraagd of het Maven Smart System een rol heeft gespeeld bij dit incident, heeft het Pentagon zijn bevindingen nog niet bekendgemaakt. Om dergelijke hiaten aan te pakken, stelde Amnesty International voor dat jaarlijkse rapporten over burgerslachtoffers specifiek de openbaarmaking van AI-betrokkenheid verplicht stellen.
Uitholling van menselijk gezag
Hoewel sommige deskundigen opmerken dat AI een nuttig hulpmiddel kan zijn voor inlichtingenverificatie en defensieve reacties, waarschuwen zij dat de technologie alleen functioneert binnen de kaders die mensen creëren. Als een militair doel een hoge drempel voor nevenschade accepteert, zal de AI die voorkeur simpelweg uitvoeren. (ev)
Wil je meer defensienieuws ontvangen? Schrijf je in op onze wekelijkse Defensie Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
