Key takeaways
- Google heeft zijn AI-beeldtool voor Google Earth binnen een dag na de lancering uitgeschakeld.
- Risico’s op het gebied van desinformatie waren de aanleiding voor de opschorting, zodat strengere veiligheidsprotocollen kunnen worden ingevoerd.
- Deze mislukking weerspiegelt een bredere worsteling binnen de sector om een evenwicht te vinden tussen AI-innovatie en ethiek.
Google heeft besloten om zijn AI-tool voor het genereren van afbeeldingen binnen Google Earth al vierentwintig uur na de release uit te schakelen. Dit besluit volgt op het verschijnen van door gebruikers gegenereerde content die naar verluidt in strijd was met de vastgestelde richtlijnen van het bedrijf.
Nano Banana 2
Met behulp van het AI-model Nano Banana 2 konden gebruikers levensechte beelden genereren op basis van echte satelliet-, 3D- en luchtfoto-gegevens door specifieke tekstprompts in te voeren voor willekeurige coördinaten wereldwijd. De tool stootte echter op heftige reacties door risico’s in verband met desinformatie. Het was namelijk mogelijk om onrealistische gebeurtenissen te fabriceren die over echte beelden van beroemde bezienswaardigheden en monumenten werden gelegd.
In een verklaring op X merkte Google op dat, hoewel geospatiale experts de tool effectief hadden gebruikt, sommige gebruikers beelden deelden die in strijd waren met het bedrijfsbeleid. Daarom schort het bedrijf de functie op om robuustere veiligheidsprotocollen te ontwikkelen.
Hoewel Google niet in detail inging op de specifieke aard van de overtredingen, verduidelijkte het dat deze beelden waren voorzien van een watermerk als kunstmatig en niet waren geïntegreerd in de primaire Google Earth-interface.
AI-regelgeving
Dit incident weerspiegelt een bredere trend onder grote technologiebedrijven die worstelen met het vinden van een evenwicht tussen AI-integratie en veiligheid. Veel bedrijven zijn gedwongen functies te beperken of te verwijderen om privacykwesties en de verspreiding van valse informatie tegen te gaan.
Zo heeft Meta onlangs Muse Image, een tool die beelden genereerde op basis van openbare Instagram-gegevens, geschrapt na hevige kritiek en bezwaren op het gebied van privacy, onder meer van een vakbond in Hollywood. (ev)
Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief
Volg Business AM ook op Google Nieuws
Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!
