Key takeaways
- Het Pentagon zoekt een gestandaardiseerd testsysteem om de betrouwbaarheid van artificiële intelligentie (AI)-modellen voor militair gebruik te waarborgen.
- Dit flexibele systeem zal zowel de individuele prestaties van AI als de effectiviteit van samenwerking tussen mens en AI in verschillende scenario’s evalueren.
- Door uitdagingen uit de praktijk te simuleren, zal het testproces de veerkracht en het aanpassingsvermogen van AI in complexe situaties grondig beoordelen.
Om de betrouwbaarheid van artificiële intelligentie (AI)-modellen in militaire toepassingen te waarborgen, zijn het Pentagon en het Office of the Director of National Intelligence op zoek naar een uitgebreid testsysteem. Dit systeem is van cruciaal belang omdat de snelle ontwikkeling van AI voortdurende evaluatie vereist om te bevestigen dat nieuwe modellen aan specifieke operationele vereisten voldoen.
Beoordelingen
Het gewenste testsysteem wordt gezien als een flexibel “harnas”. Het zou in staat zijn om elk AI-model te evalueren, ongeacht de ontwikkelaar ervan. Het zou gestandaardiseerde en gestructureerde beoordelingen bieden, die verschillende aspecten van AI-prestaties omvatten.
Naast de uitvoering van individuele taken zou het systeem ook de effectiviteit van samenwerking tussen mens en AI evalueren. Hierbij worden de resultaten van scenario’s met alleen mensen, alleen AI en teams van mensen en AI met elkaar vergeleken om de optimale aanpak voor verschillende missies te bepalen.
Simulatie van uitdagingen
Het is van cruciaal belang dat de testomgeving de operationele uitdagingen in de praktijk simuleert. Hieronder valt stress, netwerkstoringen en mogelijke vijandige aanvallen. Dit zou een grondige beoordeling mogelijk maken van de veerkracht en het vermogen van de AI om te functioneren in complexe en onvoorspelbare situaties.
Het evaluatieproces omvat het vaststellen van duidelijke benchmarks en maatstaven voor succes, volgens een aankondiging van de Defense Innovation Unit over een aandachtsgebied. Deze benchmarks worden afgestemd op specifieke missiecontexten en splitsen complexe AI-mogelijkheden op in kleinere, meetbare taken. De resultaten worden in een duidelijk en beknopt formaat gepresenteerd, zodat militaire leiders weloverwogen beslissingen kunnen nemen.
Om eerlijkheid en onpartijdigheid te garanderen, zou het systeem zo worden ontworpen dat er geen systematische voordelen zijn voor bepaalde AI-architecturen of leveranciers. Dit bevordert een gelijk speelveld. Daarnaast stimuleert het de ontwikkeling van de meest effectieve en betrouwbare AI-oplossingen. Voorstellen voor het testsysteem moeten uiterlijk 24 maart worden ingediend.
(jw)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!