Key takeaways
- De integratie van AI in oorlogsvoering versterkt volgens experts menselijke vooroordelen en kan leiden tot verkeerde beslissingen doordat de mogelijkheden ervan worden overschat.
- AI-systemen, die vaak zijn ontworpen om vertrouwen te wekken, kunnen in onzekere situaties blijk geven van overmatige zelfverzekerdheid, waardoor conflicten mogelijk escaleren.
- Om de gevaren van AI het hoofd te bieden, is het noodzakelijk om besluitvormers in te lichten over de beperkingen ervan en een kritische evaluatie van de output te bevorderen.
De integratie van AI in militaire structuren komt steeds vaker voor, wat zorgen baart over mogelijke fouten en verhoogde mondiale spanningen. Mensen hebben de neiging om de mogelijkheden van nieuwe technologieën te overschatten, en de onvermijdelijke aanwezigheid van AI in conflictgebieden zal het tot een cruciaal onderdeel van de moderne oorlogsvoering maken.
Overschatting van AI-mogelijkheden
Een belangrijk risico dat wordt benadrukt door Jacquelyn Schneider, directeur van het Hoover Wargaming and Crisis Simulation Initiative, is de mogelijkheid dat verschuivende machtsverhoudingen staten doen geloven dat ze een voordeel hebben. Die overtuiging, gevoed door een misplaatst vertrouwen in de mogelijkheden van AI op het slagveld, zou kunnen leiden tot overhaaste aanvallen, agressieve campagnes en een gebrek aan anticipatie op mogelijke technologische storingen.
Schneider schrijft deze menselijke overschatting toe aan het Dunning-Kruger-effect, waarbij personen met beperkte vaardigheden de neiging hebben hun capaciteiten te overschatten door een gebrek aan bewustzijn over hun eigen tekortkomingen. Die dubbele handicap leidt zowel tot slechte besluitvorming op basis van onjuiste conclusies als tot een onvermogen om die fouten te herkennen.
AI versterkt vooroordelen
Bovendien kan AI dit probleem verergeren wanneer besluitvormers worden geconfronteerd met complexe situaties zonder duidelijke oplossingen. Als de technologie bestaande vooroordelen of gewenste uitkomsten lijkt te ondersteunen, kan het vertrouwen in haar oordeel gevaarlijk misplaatst zijn. Schneider constateerde die neiging in cyberoorlogsspellen, waarbij deelnemers met beperkte nucleaire expertise meer geneigd waren tot preventieve aanvallen op vijandelijke arsenalen.
Het Dunning-Kruger-effect is bijzonder uitgesproken als het om AI gaat, aangezien veel systemen zijn ontworpen om het vertrouwen van de gebruiker te wekken. Dat kan leiden tot een al te optimistische presentatie van informatie, waardoor het vertrouwen van gebruikers die mogelijk al geneigd zijn de mogelijkheden van de technologie te overschatten, nog verder wordt versterkt.
Bezorgdheid over veiligheid
Naast die zorgen hebben experts fundamentele vragen gesteld over de veiligheid en betrouwbaarheid van bestaande AI-systemen. Experimenten in oorlogsspellen tonen aan dat AI-agenten buitensporig zelfvertrouwen kunnen vertonen wanneer ze met onzekerheid worden geconfronteerd, wat leidt tot risicovolle, potentieel catastrofale beslissingen. Nog zorgwekkender is de neiging van AI-agenten om conflicten binnen gesimuleerde omgevingen te escaleren.
Schneider waarschuwt dat die beperkingen, die op echte slagvelden nog worden versterkt, fataal kunnen zijn. Onervaren militairen en besluitvormers, die gevoelig zijn voor het Dunning-Kruger-effect, zullen AI-fouten binnen complexe militaire systemen wellicht minder snel aanvechten. Een overmoedige besluitvormer zou bijvoorbeeld te veel vertrouwen kunnen stellen in AI-beoordelingen die een al te optimistisch beeld schetsen van het behalen van de overwinning.
Zelfs met menselijk toezicht kunnen de gevolgen rampzalig zijn in nucleaire scenario’s waarin operators en commandanten de onzekerheden die inherent zijn aan AI niet volledig begrijpen. Het echte gevaar van AI ligt volgens Schneider niet in de technologie zelf, maar in de manier waarop mensen ervoor kiezen die in te zetten. Net zoals technologische vooruitgang bijdroeg aan de escalatie en verwoesting van de Eerste Wereldoorlog, bepaalden menselijke beslissingen uiteindelijk het verloop ervan. (fc)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
