Key takeaways

• De plaatsing van disclaimers door Google over mogelijke onnauwkeurigheden in zijn door AI gegenereerde medische samenvattingen vormt een risico voor de veiligheid van gebruikers.
• Door disclaimers onder de eerste samenvatting te plaatsen, is de kans groter dat gebruikers cruciale waarschuwingen over het hoofd zien en mogelijk vertrouwen op onnauwkeurig medisch advies.
• Deskundigen raden aan om prominente, gemakkelijk leesbare disclaimers bovenaan AI-overzichten te plaatsen om kritische evaluatie aan te moedigen en het zoeken van professionele hulp te bevorderen.

De AI-overzichten van Google, die samenvattingen van informatie boven de zoekresultaten geven, roepen bezorgdheid op over de veiligheid van gebruikers door de plaatsing en zichtbaarheid van disclaimers met betrekking tot mogelijke onnauwkeurigheden in medisch advies. Hoewel Google beweert dat die functies gebruikers aanmoedigen om professionele hulp te zoeken, stellen experten dat de huidige aanpak ontoereikend en potentieel gevaarlijk is.

Zorgen over toegankelijkheid

The Guardian ontdekte dat disclaimers die gebruikers waarschuwen voor de beperkingen van door AI gegenereerd medisch advies alleen verschijnen nadat gebruikers op de knop “Meer weergeven” hebben geklikt, waardoor ze onder de eerste samenvatting in een kleiner lettertype worden weergegeven. Door die plaatsing kunnen gebruikers die cruciale waarschuwingen gemakkelijk over het hoofd zien, vooral wanneer ze snel antwoord zoeken op gezondheidsgerelateerde vragen.

AI-deskundigen en patiëntenbelangenbehartigers wijzen op verschillende gevaren die aan die aanpak verbonden zijn. Ten eerste kunnen zelfs geavanceerde AI-modellen onnauwkeurige of misleidende informatie genereren, met name op complexe gebieden zoals de gezondheidszorg. Ten tweede geven gebruikers mogelijk niet de volledige context of een nauwkeurige beschrijving van hun symptomen, wat kan leiden tot potentieel schadelijke verkeerde interpretaties van de antwoorden van de AI.

Noodzaak van prominente disclaimers

Prominente disclaimers zijn cruciaal om automatisch vertrouwen te doorbreken en gebruikers aan te moedigen de verstrekte informatie kritisch te evalueren. Door die waarschuwingen te verbergen, loopt Google het risico een vals gevoel van veiligheid te bevorderen en de kans te vergroten dat gebruikers vertrouwen op onnauwkeurig medisch advies.

Eerdere onderzoeken door The Guardian hebben al gevallen van misleidende gezondheidsinformatie binnen Google AI Overviews aan het licht gebracht. Die bevindingen illustreren de noodzaak van duidelijke en gemakkelijk toegankelijke disclaimers om de mogelijke schade als gevolg van onjuiste informatie te beperken.

Aanbevelingen van experts

Experts stellen voor om de disclaimer bovenaan het AI-overzicht te plaatsen, in een lettergrootte die vergelijkbaar is met de rest van de tekst. Door die prominente plaatsing worden gebruikers onmiddellijk gewezen op de beperkingen van het door AI gegenereerde advies en zullen ze eerder geneigd zijn om indien nodig professioneel medisch advies in te winnen. (at)

(JW)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!