Key takeaways

• Een coalitie van meer dan 850 experts en leiders roept op tot een pauze in de ontwikkeling van artificiële superintelligentie door de potentiële risico’s die het met zich meebrengt.
• Zorgen zijn onder andere economische ontwrichting, verlies van autonomie en nationale veiligheid, en zelfs de mogelijkheid dat mensen uitsterven.
• De groep pleit voor een afkoelingsperiode totdat er sterke publieke steun en wetenschappelijke consensus is over veiligheids- en controlemaatregelen voor superintelligente AI.

Een coalitie van meer dan 850 mensen, waaronder belangrijke figuren uit verschillende vakgebieden, heeft opgeroepen om de ontwikkeling van artificiële superintelligentie een halt toe te roepen. Tot de groep behoren bekende AI-experts zoals Yoshua Bengio en Geoff Hinton, die vaak beschouwd worden als de ‘peetvaders’ van de moderne AI, en grote namen als Richard Branson en Steve Wozniak.

In de verklaring wordt gewezen op de potentiële risico’s van superintelligentie, die de menselijke vermogens op bijna elk cognitief gebied overtreft. De zorgen variëren van economische verdringing en verlies van autonomie tot nationale veiligheid.

Mogelijke risico’s belicht

De ondertekenaars roepen op tot een afkoelingsperiode voor de ontwikkeling van superintelligentie totdat er sterke publieke steun is en een volledige wetenschappelijke consensus over veiligheid en beheersbaarheid.

Deze oproep tot actie weerspiegelt de groeiende bezorgdheid over de snelle vooruitgang in AI, in het bijzonder de opkomst van krachtige grootschalige taalmodellen voorgesteld door bedrijven zoals xAI en OpenAI.

Een diverse coalitie van voorstanders

Naast AI-specialisten en techreuzen krijgt de verklaring steun van een breed scala aan mensen, waaronder academici, mediapersoonlijkheden, religieuze figuren en voormalige Amerikaanse politici. De verklaring bevat zelfs handtekeningen van hooggeplaatste personen zoals Prins Harry en Meghan Markle. (jv)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!