Key takeaways

• De Britse overheidsdienst DWP heeft verschillende AI-projecten stopgezet vanwege uitdagingen op het gebied van schaalbaarheid, betrouwbaarheid en testen.
• Deskundigen uiten hun bezorgdheid over deze tegenslagen en de gevolgen ervan voor de bredere AI-strategie van de overheid in de publieke sector.
• De overheid benadrukt haar “scan, pilot, scale” aanpak, maar experts zetten vraagtekens bij de effectiviteit van het trekken van lessen uit onsuccesvolle pilotprogramma’s.

Het Department for Work and Pensions (DWP) in het Verenigd Koninkrijk heeft verschillende prototypes van kunstmatige intelligentie (AI) stopgezet die bedoeld waren voor toepassingen in het socialezekerheidsstelsel. Dit zijn onder andere projecten die gericht zijn op het trainen van personeel, activiteiten van arbeidsbureaus en het versnellen van de verwerking van arbeidsongeschiktheidsuitkeringen.

Interne DWP-functionarissen erkennen dat schaalbaarheid, betrouwbaarheid en het grondig testen van AI-systemen aanzienlijke uitdagingen met zich meebrengen. Ze beschrijven de implementatieplannen als “valse starts”. Hoewel ze erkennen dat onsuccesvolle pilotprogramma’s waardevolle leermogelijkheden kunnen bieden, uiten experts hun bezorgdheid over deze tegenslagen en de gevolgen ervan voor de bredere AI-strategie van de overheid in de publieke sector.

Zorgen over de AI-strategie van de overheid

Imogen Parker, associate director bij het Ada Lovelace Institute, benadrukt de noodzaak om te beoordelen of de overheid effectief lering trekt uit deze ervaringen en of de praktische implementatie van AI overeenkomt met de gestelde doelen. Parker werpt vragen op over transparantie en benadrukt het belang van open evaluaties en leren als essentiële onderdelen van een verantwoorde AI-strategie, vooral in welzijnsgebieden waar het potentieel voor het verergeren van ongelijkheid en het veroorzaken van schade aanzienlijk is.

Reactie van de overheid op kritiek

Een woordvoerder van de overheid houdt vol dat proefprojecten met opzet kortlopend zijn, bedoeld om nieuwe technologieën te verkennen en er prototypes van te maken, die naar verwachting niet allemaal langetermijninitiatieven zullen worden. De woordvoerder wijst op de “scan, pilot, scale”-aanpak in het AI Opportunities Action Plan en benadrukt het potentieel van AI om overheidsdiensten te transformeren en geld te besparen voor de belastingbetaler.

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!