Een groep onderzoekers bij OpenAI heeft het leiderschap van het bedrijf geïnformeerd over een AI-ontwikkeling met potentieel immense implicaties. In die mate dat ze een bedreiging zou kunnen vormen voor de mensheid.
In het nieuws: Zowel het persagentschap Reuters als de techsite The Information maken melding van een doorbraak – het project kreeg de naam Q* (uitgesproken als Q-Star) mee – die leidt tot de creatie van kunstmatige algemene intelligentie (AGI). Dat is een vorm van AI die de menselijke capaciteiten zou kunnen overtreffen.
Computer gegenereerde gegevens in plaats van gegevens uit de echte wereld
Zoom in: OpenAI’s onderzoekers, onder leiding van hoofdwetenschapper Ilya Sutskever, hebben een methode ontwikkeld waarmee AI-modellen complexe wiskundige problemen kunnen oplossen die ze nooit eerder hebben gezien.
- Onderzoekers Jakub Pachocki en Szymon Sidor pasten Sutskever’s werk toe om het Q*-model te bouwen dat nieuwe wiskundige problemen kan oplossen.
- De doorbraak overwon een belangrijke hindernis: voldoende hoogwaardige gegevens krijgen voor het trainen van nieuwe modellen.
- De wetenschappers maakten gebruik van door de computer gegenereerde gegevens in plaats van gegevens uit de echte wereld, zoals tekst of afbeeldingen van het internet, om nieuwe modellen te trainen.
- De snelle ontwikkeling van dit model zorgde voor bezorgdheid over AI-veiligheid onder sommige onderzoekers.
Spanningen binnen OpenAI zullen aanhouden
Zoom out: Deze onthulling, die aan de raad van bestuur werd bekendgemaakt in een interne brief, drukte de angst uit dat OpenAI zou kunnen overgaan tot het commercialiseren van deze technologie zonder de volledige impact ervan te begrijpen.
- De doorbraak kwam aan het licht te midden van de chaos in het bedrijf vorig weekeinde. Inclusief het ontslag en de latere heraanstelling van CEO Sam Altman.
- De onthulling lijkt samen te vallen met recente uitspraken van Sam Altman. Daarin keek hij terug op de momenten bij OpenAI waarbij hij getuige was van significante doorbraken in het vakgebied.
- Hij omschreef deze ervaringen als “de meest eervolle momenten in zijn professionele carrière”.
- OpenAI zet een aanzienlijk deel van zijn rekenkracht in om bedreigingen van “superintelligentie” aan te pakken. Dat zou wijzen op toenemende bezorgdheid over AI-risico’s.
- De bezorgdheid binnen het bedrijf suggereert dat de spanningen binnen OpenAI over het tempo van het werk zullen aanhouden. Zelfs nadat Altman opnieuw tot CEO werd benoemd. (cv)
