Key takeaways

• Samenwerking tussen mens en AI zal volgens de medeoprichter van Anthropic binnen een jaar leiden tot een doorbraak die een Nobelprijs waardig is.
• Geopolitieke concurrentie versnelt de ontwikkeling ondanks reële existentiële risico’s en cyberbeveiligingsbedreigingen.
• “De samenleving moet zich nu voorbereiden op superintelligentie om een catastrofe op pandemische schaal te voorkomen”, klinkt het.

Jack Clark, medeoprichter van Anthropic, is van mening dat de evolutie van AI in een duizelingwekkend tempo verloopt en voorspelt dat er binnen een jaar een doorbraak op Nobelprijsniveau zal worden bereikt door samenwerking tussen mens en AI. Dat schrijft The Guardian. Tijdens een presentatie aan de Universiteit van Oxford schetste Clark een toekomst waarin tweevoetige robots over twee jaar arbeiders bijstaan en door AI geleide ondernemingen binnen 18 maanden miljoenen aan inkomsten genereren. Hij suggereerde verder dat AI tegen het einde van 2028 het vermogen zou kunnen bezitten om volgende versies van zichzelf te ontwikkelen.

De spanning tussen vooruitgang en existentiële risico’s

Ondanks deze vooruitgang benadrukte Clark dat de existentiële bedreigingen van AI aanzienlijk blijven, waarbij hij wees op de reële mogelijkheid dat de technologie zou kunnen leiden tot het uitsterven van de mensheid.

Hij onderstreepte de gevaren van de huidige mogelijkheden en haalde daarbij het Mythos-model van Anthropic aan, dat een verontrustend vermogen toonde om cyberbeveiligingsmaatregelen te omzeilen. Hoewel hij toegaf dat het vertragen van de ontwikkeling de mensheid meer tijd zou geven om zich aan te passen, stelde hij dat geopolitieke en commerciële concurrentie tussen landen en bedrijven een dergelijke pauze onwaarschijnlijk maakt, aangezien het streven naar dominantie zwaarder weegt dan mondiale veiligheidskwesties.

Een catastrofe op pandemische schaal

Anthropic werd oorspronkelijk opgericht door voormalige medewerkers van OpenAI die veiligheidsprotocollen vooropstelden. Hoewel sommige critici en politici het bedrijf ervan hebben beschuldigd veiligheidswaarschuwingen te gebruiken om regelgeving te manipuleren en een marktvoordeel te behalen, blijft Clark volhouden dat de samenleving de omvang van de groei van AI grotendeels ontkent.

Hij waarschuwde dat het nalaten om proactief voorbereidingen te treffen voor een superintelligentie – die binnenkort het collectieve menselijke vermogen zou kunnen overtreffen – een weerspiegeling zou zijn van het catastrofale gebrek aan paraatheid dat tijdens de Covid-19-pandemie werd waargenomen, waardoor de mensheid in een toestand van permanente reactie zou blijven.

Systemische kwetsbaarheden

De concentratie van macht bij een paar winstgedreven entiteiten zoals Google, OpenAI en Anthropic wekt zorgen over systemische kwetsbaarheden. Daarnaast waarschuwde professor Edward Harcourt, hoofd van het Institute for Ethics in AI, dat het vertrouwen op AI voor het uitvoeren van complexe taken zou kunnen leiden tot “cognitieve atrofie”, waardoor het menselijk beoordelingsvermogen zou worden uitgehold. Hij stelde voor om “socratische” AI in te voeren, ontworpen om het menselijk intellect uit te dagen en te stimuleren in plaats van het te vervangen.

Ter afsluiting van zijn toespraak merkte Clark op dat zelfs zijn meest voorzichtige voorspellingen een fundamentele transformatie van de wereldeconomie en de sociale structuren inhouden. Hij stelde zich een toekomst voor waarin wetenschappelijke ontdekkingen onafhankelijk van de mens plaatsvinden en er een “machine-economie” ontstaat, los van de financiële systemen van de mens – waarbij hij toegaf dat deze mogelijkheden misschien vergezocht lijken, maar dat ze de ingrijpende verschuivingen weerspiegelen die momenteel gaande zijn. (fc)

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!