Key takeaways

• KPMG heeft een wereldwijd AI-rapport ingetrokken dat verzonnen casestudy’s bevatte als gevolg van AI-hallucinaties.
• Meerdere vooraanstaande organisaties hebben de valse beweringen in het rapport over hun implementatie van AI ontkend.
• Gerenommeerde professionele bedrijven zetten hun autoriteit op het spel wanneer ze ongeverifieerde, door AI gegenereerde desinformatie publiceren.

Een recente publicatie van KPMG over de wereldwijde implementatie van AI bleek verzonnen casestudy’s te bevatten, waarschijnlijk als gevolg van AI-hallucinaties. Het document, getiteld “Redefining excellence in the age of agentic AI”, gaf een verkeerd beeld van de mate waarin verschillende organisaties de technologie hadden geïmplementeerd. Die fouten werden voor het eerst ontdekt door GPTZero en vervolgens bevestigd door de Financial Times.

Organisaties ontkennen beweringen in rapport

Verschillende prominente entiteiten die in het rapport werden genoemd, weerlegden de beweringen. UBS verwierp beweringen dat het AI-agenten gebruikte voor risicobeheer en beleggingsadvies via een platform in samenwerking met Microsoft als volstrekt onjuist.

Evenzo bestempelden de Zwitserse Spoorwegen en Transport for London de beschrijvingen van KPMG van hun AI-gestuurde vervoersoptimalisaties als onnauwkeurig en misleidend. In een ander geval bleek een bewering over het gebruik van AI door NHS Greater Manchester voor patiënttriage een verkeerde interpretatie te zijn van een persbericht over onderzoek naar longkanker.

KPMG verwijdert rapport

Als reactie op deze discrepanties heeft KPMG het rapport van verschillende platforms verwijderd. Een woordvoerder van het bedrijf verklaarde dat het bedrijf onderzoekt hoe de publicatie tot stand is gekomen en benadrukte dat medewerkers verplicht zijn om menselijk toezicht te gebruiken om bronnen te verifiëren en de integriteit van de inhoud te waarborgen.

Een patroon van AI-fouten

Dit incident is geen op zichzelf staand geval onder grote professionele dienstverleners. Vorige maand moest EY een onderzoek intrekken vanwege fictieve voetnoten en andere fouten die door GPTZero waren ontdekt.

Bovendien erkende het advocatenkantoor Sullivan & Cromwell in april dat een door hen opgestelde faillissementsaanvraag fouten bevatte die door AI waren gegenereerd met betrekking tot de Amerikaanse wetgeving.

Bezorgdheid over professionele autoriteit

Edward Tian, hoofd van GPTZero, waarschuwde dat wanneer prestigieuze “Big Four”-bedrijven onbetrouwbare gegevens publiceren, dat de algehele kwaliteit van de informatie in gevaar brengt. Hij merkte op dat, omdat deze adviesbureaus als gezaghebbend worden beschouwd, hun fouten kunnen leiden tot een domino-effect van verkeerde informatie.

Dat is bijzonder ironisch gezien het feit dat bedrijven als KPMG zichzelf actief profileren als experts in het verantwoord inzetten van AI, en enorme hoeveelheden “thought leadership” produceren om zakelijke klanten aan te trekken die op zoek zijn naar advies om juist die fouten te vermijden die het bedrijf zelf heeft begaan.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!