OpenAI, het bedrijf achter ChatGPT, is de afgelopen dagen in het nieuws geweest vanwege hiërarchische meningsverschillen. De CEO Sam Altman werd gedwongen ontslag te nemen en keerde vier dagen later terug op zijn post. Maar de redenen voor zijn ontslag bleven onduidelijk. Althans, tot voor kort.
In het nieuws: Een brief geschreven door onderzoekers zou aan de basis liggen van het gedwongen vertrek van Sam Altman als hoofd van OpenAI.
- Aan de vooravond van zijn ontslag ontving de Raad van Bestuur een brief geschreven door verschillende OpenAI onderzoekers.
- Ze waarschuwden voor een krachtige AI-ontdekking die de mensheid zou kunnen bedreigen, meldt Reuters.
Bezorgdheden over de ontwikkeling van AI
Zoom out: Altmans gebrek aan transparantie tegenover de raad van bestuur was de reden die werd gegeven voor zijn ontslag. Niet echt een overtuigend argument voor veel mensen, waaronder de honderden werknemers van OpenAI die dreigden ontslag te nemen als hij zijn baan niet terugkreeg, evenals investeerders die bang waren dat hun aandeel minder waard zou worden.
- De raad van bestuur van het bedrijf maakte zich onder meer zorgen over de commercialisatie van AI-toepassingen voordat de werkelijke gevolgen volledig worden begrepen.
- De waarschuwingen van onderzoekers over het risico van AI voor de mensheid kan een andere factor zijn geweest in de beslissing om Altman te ontslaan.
De tijdelijke benoeming van Emmett Shear als CEO van OpenAI – ter vervanging van Mira Murati, die de functie minder dan 48 uur bekleedde – suggereerde dat de dreiging van AI de kern van het incident vormde. De medeoprichter van Justin.tv, nu omgedoopt tot Twitch, erkent de existentiële dreiging van AI.
Wat stond er in de brief?
Onderzoekers waarschuwden voor een grote vooruitgang van het bedrijf op het gebied van AI. Volgens sommigen zou die vooruitgang gebaseerd zijn op het Q*-project (Q-start), dat verband houdt met algemene kunstmatige intelligentie (AGI). OpenAI heeft intern bevestigd dat het aan dit project werkt.
- AGI wordt door het bedrijf gedefinieerd als autonome systemen die beter presteren dan mensen in de meest rendabele taken, meldt Reuters.
- Het Q*-project zou wiskundige problemen hebben opgelost met behulp van de enorme computerbronnen van het bedrijf… wiskundige problemen op primair niveau.
- Dit blijft een belangrijke mijlpaal voor de onderzoekers van OpenAI, die erg optimistisch zijn over het toekomstige succes van hun nieuwe AI.
- Wiskunde wordt beschouwd als een van de belangrijkste aspecten in de ontwikkeling van generatieve AI. Dit betekent dat het significante redeneercapaciteiten heeft, vergelijkbaar met die van menselijke intelligentie.
- AGI is niet alleen een efficiënte rekenmachine. Uiteindelijk zal het kunnen generaliseren, leren en begrijpen, net als een mens.
Samengevat: In hun brief wijzen de onderzoekers op een wijdverspreide vrees die naar de achtergrond is geschoven naarmate AI steeds nuttiger werd, namelijk dat kunstmatige intelligentie een risico kan vormen voor de mensheid zodra het in staat is om zelfstandig te denken. Daarom moet de ontwikkeling ervan doordacht plaatsvinden, waarbij de gevolgen van elke fase van ontwikkeling worden geëvalueerd.
En Altmans rol in dit alles?
OpenAI dankt zijn populariteit aan de vooruitstrevende visie en het zakelijk inzicht van Sam Altman. Aan het roer van het bedrijf heeft hij een groei- en ontwikkelingsaanpak geïmplementeerd, gedreven door de behoefte aan financiering en de zoektocht naar nieuwe inkomstenstromen, terwijl hij de risico’s van de snelle en ongecontroleerde uitbreiding van AI negeerde.
- Zijn blinde enthousiasme voor AI heeft geleid tot zijn ontslag. Altman had onlangs gesuggereerd dat AGI binnen het bereik van OpenAI lag.
- We kunnen nu alleen maar hopen dat de heisa van de voorbije week heeft geleid tot een groter bewustzijn van de risico’s van AI, of in ieder geval van de voorzorgsmaatregelen die moeten worden genomen als we willen doorgaan met de ontwikkeling ervan.
(ns)
