Key takeaways

• OpenAI lanceert ’textGrain’-watermerken in het kader van de transparantievereisten van de EU AI Act.
• Verborgen patronen in de woordkeuze identificeren door AI gegenereerde tekst zonder zichtbare symbolen.
• Handmatige bewerking of vertaling kan de detectienauwkeurigheid aanzienlijk verminderen.

Om te voldoen aan de transparantievereisten van de EU AI Act heeft OpenAI aangekondigd onzichtbare watermerken in te voeren voor content die door Codex en ChatGPT binnen de Europese Unie wordt geproduceerd.

Regelgeving

De regelgeving, die op 2 augustus van kracht is geworden, verplicht AI-ontwikkelaars ervoor te zorgen dat hun gegenereerde output door andere softwaresystemen kan worden geïdentificeerd.

Hoewel de functie de komende weken voor verschillende gebruikersabonnementen in de EU zal worden ingevoerd, zal het geen wereldwijde standaard worden. API-ontwikkelaars wereldwijd kunnen de functie echter per direct handmatig inschakelen voor specifieke modellen.

textGrain

De technologie, die ’textGrain’ wordt genoemd, maakt geen gebruik van zichtbare symbolen. In plaats daarvan beïnvloedt het op subtiele wijze de woordkeuze van het model om een verborgen patroon te creëren. Dit zorgt ervoor dat het watermerk ingebed blijft, zelfs als de tekst wordt gekopieerd en geplakt. Volgens OpenAI heeft dit proces geen nadelige invloed op de efficiëntie van het model en wordt de identiteit van de gebruiker niet onthuld. I

Systeemkwetsbaarheden 

Ondanks zijn geavanceerdheid vertoont het systeem kwetsbaarheden. OpenAI merkte op dat het vervangen van ongeveer 10 procent van de woorden door synoniemen de detectienauwkeurigheid aanzienlijk kan verminderen, van 92 procent naar 66 procent.

Bovendien heeft de tool moeite met vertaalde inhoud, wiskundige oplossingen en korte tekstfragmenten. Door die inconsistenties is de toegang tot de detectietool momenteel beperkt tot gespecialiseerde organisaties en onderzoekers om een verantwoord gebruik ervan te waarborgen.

Nuances van bronvermelding

Het bedrijf verduidelijkte verder dat de afwezigheid van een watermerk geen definitief bewijs is dat de tekst door een mens is geschreven, aangezien dit het gevolg kan zijn van ingrijpende bewerkingen of het resultaat kan zijn van een andere AI-aanbieder.

Bovendien kan een watermerk weliswaar aangeven dat er een OpenAI-tool is gebruikt, maar het kan niet de mate van menselijke creativiteit of toezicht kwantificeren die bij het eindproduct betrokken is.

(at)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!