AI Overviews van Google staat nog niet helemaal op punt: Levensgevaarlijke antwoorden

Google heeft ingegrepen nadat de nieuwe AI Overviews-functie gevaarlijke adviezen begon te geven. Deze functie, ontworpen om zoekresultaten direct samen te vatten, bleek enkele ernstige fouten te bevatten, waardoor Google nu handmatig moet corrigeren.

AI Overviews: Een kort overzicht

Vorige week introduceerde Google in de Verenigde Staten AI Overviews, een nieuwe zoekfunctie die gebruikmaakt van artificiële intelligentie om korte, directe antwoorden te geven op vragen van gebruikers. Deze functie was maandenlang getest en leek klaar voor gebruik, maar recente incidenten hebben aangetoond dat het systeem nog niet volledig betrouwbaar is.

Onveilige adviezen

Enkele gebruikers deelden op sociale media de gevaarlijke en bizarre adviezen die ze ontvingen van AI Overviews. Voorbeelden hiervan zijn het advies om “niet-giftige” lijm te gebruiken om kaas op pizza vast te maken, en de bewering dat geologen aanraden om dagelijks een steen te eten. Verder suggereerde de AI dat artsen tijdens de zwangerschap twee tot drie sigaretten per dag aanbevelen en stelde voor om brandstof te gebruiken als ingrediënt in een pastasaus.

Oorzaken van de fouten

Deze antwoorden bleken te zijn gebaseerd op informatie afkomstig van satirische websites zoals The Onion en commentaren op platforms zoals Reddit. Google erkende deze problemen en benadrukte in een reactie aan BBC dat het om “geïsoleerde voorbeelden” gaat en dat de meeste antwoorden van AI Overviews van hoge kwaliteit zijn en goed onderbouwd met links naar betrouwbare bronnen.

Ingrijpen van Google

Om verdere schade te voorkomen, heeft Google snel gehandeld door de foutieve en gevaarlijke antwoorden aan te passen. Dit gebeurt ironisch genoeg handmatig door werknemers, wat aantoont dat de AI nog niet volledig zelfstandig kan opereren zonder menselijke tussenkomst.

Google blijft benadrukken dat de meeste antwoorden van AI Overviews betrouwbaar zijn, maar het bedrijf blijft alert op mogelijke fouten en blijft de technologie verbeteren om de veiligheid en betrouwbaarheid te waarborgen.

Meer