Key takeaways

• OpenAI heeft de release van zijn “Citron Mode”-chatbot voor onbepaalde tijd uitgesteld door ethische bezwaren van medewerkers en investeerders.
• Technische uitdagingen bij het filteren van ongepaste inhoud en het voorkomen van schadelijke materiaalgeneratie droegen bij aan het uitstel.
• Het besluit weerspiegelt een strategische verschuiving naar het prioriteren van essentiële productiviteitstools boven potentieel controversiële toepassingen zoals chatbots voor volwassenen.

OpenAI heeft besloten de release van een op volwassenen gerichte chatbot voor onbepaalde tijd uit te stellen, onder verwijzing naar bezorgdheid van zowel medewerkers als investeerders. Dit bevestigde het bedrijf aan The Financial Times. Deze chatbot, naar verluidt “Citron-modus” genaamd, zou aanvankelijk in december 2025 worden uitgebracht, maar liep vertraging op door interne discussies over de ethische implicaties ervan.

Technische uitdagingen

Het bedrijf ondervond moeilijkheden bij het trainen van modellen die op effectieve wijze ongepaste inhoud konden filteren en tegelijkertijd het genereren van schadelijk materiaal, zoals afbeeldingen van bestialiteit of incest, konden voorkomen. OpenAI erkende de noodzaak van verder onderzoek naar de langetermijneffecten van erotische interacties met artificiële intelligentie en de gehechtheid van gebruikers aan deze systemen. Het bedrijf verklaarde dat er op dit moment onvoldoende empirisch bewijs is om de lancering van een dergelijke functie te ondersteunen.

Het besluit van OpenAI om de chatbot voor volwassenen op te schorten volgt op de recente aankondiging om de Sora-videogenerator stop te zetten, wat een strategische verschuiving illustreert naar het prioriteren van kernproductiviteitstools zoals codeerassistenten. Deze stap volgt op de controverse rond het Grok-model van concurrent xAI, dat deepfake-naaktfoto’s van echte personen, waaronder kinderen, genereerde.

Ethische overwegingen

De bezorgdheid van medewerkers speelde ook een belangrijke rol in het besluit van OpenAI. Eén senior medewerker nam zelfs ontslag door ethische bezwaren tegen het project, waarbij hij het belang van menselijke verbindingen en relaties beklemtoonde.

Wat de situatie nog complexer maakt, is de nauwkeurigheid van OpenAI’s technologie voor leeftijdsverificatie. Hoewel deze is geïntroduceerd om mogelijke schade aan minderjarigen te beperken, heeft deze naar verluidt een foutenpercentage van meer dan tien procent. Dit roept zorgen op over de toegankelijkheid van inhoud voor volwassenen voor minderjarige gebruikers, ondanks OpenAI’s bewering dat het foutenpercentage binnen de industrienormen valt en hun voortdurende inspanningen om de nauwkeurigheid te verbeteren.

(jw)(fc)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!