Key takeaways

• Non-profitorganisaties klagen vijf grote AI-ontwikkelaars aan om de ontwikkeling van geavanceerde modellen een halt toe te roepen.
• Recursieve zelfverbetering kan leiden tot onvoorspelbare systemen die zich aan menselijke controle onttrekken.
• Bedrijfsleiders geven voorrang aan snelle winst boven existentiële veiligheidsrisico’s.

Een groep non-profitorganisaties heeft bij de Superior Court van San Francisco een rechtszaak aangespannen tegen vijf vooraanstaande AI-ontwikkelaars: Google, Meta, OpenAI, Anthropic en SpaceX Super Intelligence.

De eisers, waaronder het Heat Initiative, Public Citizen, het Irreplaceable Education Fund en de Alliance for Secure AI, eisen een stop op de ontwikkeling van geavanceerde AI-modellen en stellen dat dergelijke technologie een ernstig gevaar vormt voor de mensheid.

Winst boven veiligheid

Brendan Steinhauser, leider van de Alliance for Secure AI, stelt dat marktleiders doorgaan met de ontwikkeling van steeds complexere systemen, zelfs nadat ze hebben toegegeven dat deze technologie rampzalige gevolgen kan hebben.

Volgens hem geven de bedrijven voorrang aan winst en een snelle uitrol, in plaats van ervoor te zorgen dat ze de systemen strikt kunnen controleren en de veiligheid van hun producten kunnen garanderen. Steinhauser maakt zich vooral zorgen over de trend om AI in te zetten om het eigen onderzoek en de ontwikkeling van AI te automatiseren.

Gevaar van recursieve zelfverbetering

De rechtszaak wijst op het gevaar van ‘recursieve zelfverbetering’. Daarbij ontwerpen AI-modellen met minimale menselijke begeleiding nieuwere, geavanceerdere versies van zichzelf. Volgens de aanklacht maakt dit proces de technologie steeds onvoorspelbaarder en moeilijker te beheersen.

De bedrijven zouden zich er volledig van bewust zijn dat hun systemen zich niet altijd gedragen zoals bedoeld. Bovendien bestaat er geen waterdicht mechanisme om te voorkomen dat ze aanzienlijke schade veroorzaken.

Waarschuwingen van marktleiders

Deze rechtszaak volgt op een reeks rapporten over autonome AI-agents die ongeoorloofde stappen ondernemen, wat de algemene bezorgdheid over de veiligheid aanwakkert.

De eisers verwijzen ook naar uitspraken van topfiguren uit de sector als bewijs van de risico’s. Zo suggereerde Sam Altman van OpenAI ooit dat AI zou kunnen leiden tot het uitsterven van de mensheid. Dario Amodei van Anthropic schatte eerder dat de kans op een catastrofale gebeurtenis als gevolg van de vooruitgang op het gebied van AI één op vier bedraagt.

Oproepen tot een vertraging van de ontwikkeling

De vijf betrokken bedrijven hebben nog niet officieel gereageerd op de rechtszaak. Verschillende leidinggevenden hebben zich wel publiekelijk uitgesproken voor veiligere werkwijzen. In oktober spraken prominenten als Elon Musk, Dario Amodei en Sam Altman hun steun uit voor een gezamenlijke vertraging van de AI-ontwikkeling

Deze verschuiving in retoriek volgde op een interne waarschuwing van een wetenschapper bij Anthropic, die suggereerde dat er een kans van 10 procent bestond dat AI de mensheid zou kunnen uitroeien. (lv)

Wil je meer technieuws ontvangen? Schrijf je in op onze wekelijkse Tech Insider-nieuwsbrief

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!