Key takeaways

• AI-expert Daniel Kokotajlo heeft zijn voorspelling bijgesteld en verschuift de datum waarop AI autonoom kan coderen naar het begin van de jaren 2030.
• Experts heroverwegen de term “AGI” nu AI-systemen steeds veelzijdiger worden en op meerdere gebieden kunnen functioneren.
• Terwijl onderzoek naar geautomatiseerde AI doorgaat, blijft de integratie van potentiële superintelligente AI in bestaande geopolitieke structuren een complexe uitdaging.

Een expert op het gebied van artificiële intelligentie heeft zijn voorspelling over het potentiële gevaar van geavanceerde AI aangepast, en suggereert dat het langer dan verwacht zal duren voordat AI-systemen autonome coderingsmogelijkheden bereiken en hun ontwikkeling naar superintelligentie versnellen.

Voormalig OpenAI medewerker Daniel Kokotajlo trok eerder dit jaar de aandacht met zijn “AI 2027” scenario, dat voorzag dat de ongecontroleerde ontwikkeling van AI zou leiden tot de creatie van een superintelligente entiteit die uiteindelijk de wereldleiders zou inhalen en tot de vernietiging van de mensheid zou leiden.

Opkomst AGI

Dit provocerende scenario heeft een debat aangewakkerd en zowel steun als kritiek gekregen. Terwijl sommigen, zoals de Amerikaanse vicepresident JD Vance, naar het werk van Kokotajlo leken te verwijzen toen ze het concurrentielandschap van AI-ontwikkeling tussen de Verenigde Staten en China bespraken, deden anderen het af als onrealistische speculatie.

Het tijdschema voor het bereiken van transformatieve artificiële intelligentie, vaak aangeduid als AGI (artificial general intelligence) – AI die in staat is de meeste cognitieve taken uit te voeren die vergelijkbaar zijn met die van mensen – is een terugkerend thema in discussies over AI-veiligheid. De release van ChatGPT in 2022 heeft de tijdslijnen drastisch versneld, waarbij experts en beleidsmakers de komst van AGI binnen enkele tientallen jaren, zo niet enkele jaren, voorspellen.

Verwachtingen voor autonome codering

Kokotajlo en zijn team voorspelden oorspronkelijk dat AI tegen 2027 “volledig autonoom coderen” zou bereiken, waarbij ze benadrukten dat dit eerder een probabilistische inschatting was dan een definitieve voorspelling. Recente ontwikkelingen suggereren dat er steeds meer twijfels ontstaan over de onmiddellijke komst van AGI en over de vraag of de term zelf de huidige stand van zaken in AI wel nauwkeurig weergeeft.

Experts zoals AI-risicomanagementspecialist Malcolm Murray merken op dat de vooruitgang in AI minder gestaag is verlopen dan aanvankelijk verwacht, en dat een breder scala aan praktische vaardigheden nodig is om de complexiteit van de echte wereld te beheersen. Henry Papadatos, uitvoerend directeur van SaferAI, een Franse non-profitorganisatie gespecialiseerd in AI, suggereert dat de term “AGI” minder relevant kan worden naarmate AI-systemen steeds veelzijdiger worden en taken kunnen uitvoeren die verder gaan dan nauw gedefinieerde domeinen zoals schaken.

Kokotajlo’s “AI 2027”-scenario is gebaseerd op de aanname dat AI-agenten tegen 2027 het coderen en onderzoeken van AI volledig zullen automatiseren, wat een “intelligentie-explosie” teweegbrengt waarbij AI recursief steeds intelligentere versies van zichzelf genereert. Een mogelijke uitkomst van dit scenario is dat de mensheid tegen het midden van de jaren 2030 wordt geëlimineerd om plaats te maken voor uitgebreide infrastructuren, zoals zonnepanelen en datacenters.

Superintelligentie

In een recente update hebben Kokotajlo en zijn collega’s hun voorspellingen herzien over het moment waarop AI autonoom kan coderen. Zij verwachten nu dat deze fase zich begin jaren 2030 zal aandienen, in plaats van in 2027. Deze bijstelling verschuift de verwachte komst van superintelligentie naar 2034 en neemt speculaties over een mogelijk tijdschema voor het uitsterven van de mensheid door AI weg.

Ondanks deze aanpassingen blijft het ontwikkelen van AI-geschikt onderzoek een centraal doel voor toonaangevende AI-bedrijven. Sam Altman, CEO van OpenAI, heeft de ontwikkeling van een geautomatiseerde AI-onderzoeker tegen maart 2028 als intern doel gesteld, maar erkent daarbij de inherente uitdagingen en de mogelijkheid van mislukking. (fc)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!