Recent waarschuwden duizenden experten uit de tech-industrie voor het gevaar van AI. De dreiging is nog groter geworden sinds de snelle vooruitgang in computerkracht, volgens insiders een revolutie die finaal de mens compleet overbodig zal maken. Opvallend: hoewel iedereen in de AI-wereld beseft dat ze het beest niet meer onder controle hebben, gaat de ontwikkeling nog harder dan ooit tevoren. De zelfmoord van een Belgische man die met een chatbot converseerde, is een vaag voorteken van wat ons te wachten staat.

De profeten van de angst

Er is toch wat aan de hand als de grootste AI-experten, waaronder Elon Musk en Yuval Harari, ons waarschuwen voor een op hol geslagen AI -systeem. 

Net als wapens zijn ook technologische revoluties niet neutraal. Je kan er goede dingen mee doen, zoals het beter detecteren van symptomen van kanker, maar je kan de mensheid ook manipuleren met deep fake films of je kan er zelfs mensen tot zelfmoord mee dwingen zoals recent het geval was, notabene hier in België. Een man, weliswaar met depressieve neigingen, werd door de chatbot aangespoord om “samen naar het paradijs te gaan”.

Het drieletterige wat onschuldig monster

De meest striemende aanklacht kwam echter van Ian Hogarth, één van de eerste investeerders in AI en auteur van het gerenommeerde ‘State of AI‘ rapport dat in detail uitlegt wat ons te wachten staat.

Hij stelt dat de revolutie rond AGI de wereld compleet op zijn kop zal zetten. AGI staat wat onschuldig voor ‘artificial general intelligence’. Het gaat om computersystemen die eigenlijk alles moeten kunnen doen dat een mens kan. Deze systemen zijn nu mogelijk omdat in de laatste 10 jaar 2 grote revoluties hebben plaatsgevonden.

• AI systemen worden gevoed met beelden en teksten. Terwijl in 2012 AI-modellen maar konden beschikken over 15 miljoen beelden zijn dat er vandaag al 2 miljard.
• Nog veel indrukwekkender is dat de rekenkracht in dezelfde tijdspanne is toegenomen met een factor van 100 miljoen. 

De bedrijven achter deze race zijn DeepMind, nu eigendom van Google, maar opgericht door de Engelsman Demis Hassabis, en OpenAI, het bedrijf achter ChatGPT, mede opgericht door Elon Musk maar nu geleid door Sam Altman, waar Microsoft deels eigenaar van is. 

De drijfveren achter de razendsnelle ontwikkeling

Volgens Hogarth, die hen heel goed kent, zijn er 3 motieven die deze bedrijven vooruitstuwen.

• Ze willen de eerste zijn in deze revolutie. Sam Altman vond niet beter om in een eerder interview te refereren naar een quote van Robert Oppenheimer, de uitvinder van de atoombom: “Technology happens because it is possible”, eigenlijk zeggende dat dit nu buiten zijn controle om gaat, een toch wat bangelijke gedachte.
• De tweede reden is een altruïstische motivatie. Het klopt zeker, dat als AI goed wordt ingezet, ze voordelen oplevert voor de maatschappij op duidelijk afgebakende domeinen. Daar kan de brute computer- en redeneringskracht van deze systemen de prioriteiten van de maatschappij op vlak van opleiding, gezondheidszorg  en klimaat bijstaan.
• De derde en belangrijkste reden is natuurlijk geld. De investeringen in AI-bedrijven exploderen vandaag. Alleen al in de eerste  3 maanden van 2023, waarin het investeringsklimaat toch slecht is, werd er meer dan 11 miljard dollar geïnvesteerd in AI-gerelateerde bedrijven.

De gevaren van een op hol geslagen systeem

Dit belet niet dat die systemen niet altijd competent zijn,  zoals we in een vorige artikel al meldden. Als je foute info laadt kunnen deze systemen nog altijd bullshit genereren. 

Nog belangrijker is dat deze systemen volgens Hoghart potentieel de mensheid kunnen vernietigen. Een mening die meer en meer wordt gedeeld door experten die in dit domein werken.

Een recent voorbeeld gaf dit aan. Er werd door de Verenigde Naties aan een AI-systeem gevraagd om een methode te ontwikkelen om de oceanen te ontzuren, wel rekening houdende met de vissen in de zee. Het systeem kwam wonderwel met een sluitende oplossing met 1 hiaat: de chemische bestanden die nodig waren om dit te realiseren zouden ervoor zorgen dat bijna 25% van de zuurstof in de lucht wereldwijd zou verdwijnen, wat het einde van de mensheid zou betekenen. 

De autoregulering die niet zal werken

De AI-gemeenschap beseft dat ze met vuur speelt en tracht nu aan autoregulering te doen. Dat heet vandaag ‘AI alignment’ waartegen de winstmotieven moeten gebalanceerd worden met een soort ethische commissie. Die gidst het bedrijf bij de vraag of zijn toepassingen verantwoord zijn of niet.

Alleen hebben de twee grote spelers hier een zeer beperkt aantal mensen toegewezen. Bij DeepMind werkt er 2 procent aan het controleren van die systemen of althans de richtlijnen hieromtrent, bij OpenAI is dit 7 procent.