Key takeaways
- Bijna de helft van de populairste AI-chatbots produceerde feitelijke fouten of oorsprongsproblemen bij het beantwoorden van nieuwsgerelateerde vragen.
- Een veel voorkomend probleem was het weglaten of verkeerd weergeven van citaten, en sommige chatbots genereerden zelfs links naar nepnieuws.
- Deze resultaten hebben geleid tot bezorgdheid over de bescherming van journalistieke integriteit en de controle op de toegang tot gegevens voor AI-training.
Een recent onderzoek van een coalitie van 22 publieke mediabedrijven, onder leiding van de Noorse omroep NRK, bracht verontrustende onnauwkeurigheden aan het licht in de antwoorden van populaire AI-chatbots zoals ChatGPT, Copilot, Perplexity en Gemini. Uit het onderzoek bleek dat bijna de helft van deze AI-tools belangrijke feitelijke fouten maakte of problemen had met de herkomst van informatie bij het beantwoorden van nieuwsgerelateerde vragen.
Het meest voorkomende probleem was het weglaten of verkeerd weergeven van citaten, wat in 31 procent van de antwoorden voorkwam. Daarnaast bevatte 20 procent van de antwoorden duidelijk onjuiste informatie, zoals foutieve data, namen en beschrijvingen van gebeurtenissen. In sommige gevallen genereerden de AI-chatbots zelfs neplinks die leken op legitieme URL’s, maar uiteindelijk naar foutpagina’s leidden.
Journalistieke integriteit behouden
Deze resultaten hebben tot grote bezorgdheid geleid bij mediaorganisaties. De CTO van NRK, Pal Nedregotten, toonde zich bezorgd en zei dat de resultaten geen vertrouwen wekten in de versoepeling van de controle op gegevenstoegang voor deze AI-tools. Als gevolg hiervan heeft NRK het schrapen van inhoud van haar website permanent geblokkeerd om haar journalistieke integriteit en auteursrechtelijk beschermde inhoud te beschermen.
Het onderzoek was geïnspireerd op een eerder experiment van de BBC. Alle deelnemende organisaties stelden de vier artificiële intelligentie assistenten 30 gestandaardiseerde nieuwsgerelateerde vragen. Een panel van journalisten beoordeelde de antwoorden vervolgens op basis van vijf belangrijke criteria: nauwkeurigheid, bron, onderscheid tussen feit en mening, neutraliteit en contextuele relevantie.
Voortdurende uitdagingen van AI
Het onderzoek liet zien dat AI-tools die op grote schaal worden ingezet voor het verwerken van nieuwsinhoud nog altijd met grote uitdagingen te maken hebben. Het correct verifiëren van informatie en het nauwkeurig vermelden van bronnen blijken hardnekkige struikelblokken voor deze technologieën. (jv)
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!