AI is aan een opmars bezig, maar dat betekent ook dat meer en meer mensen waarschuwen voor de gevaren van die technologie, gaande van grote ontslagrondes tot het einde van het bestaan van de mensheid. Sommige doemberichten komen van mensen uit de sector zelf.

In het nieuws: Een groep onderzoekers, ingenieurs en CEO’s – waaronder Sam Altman van OpenAI – hebben een gezamenlijke verklaring ondertekend die waarschuwt voor de existentiële bedreiging van AI voor de mensheid.

Opvallend: De verklaring is slechts 22 woorden lang (in het Engels).

“Het beperken van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn, op gelijke voet met andere maatschappelijke risico’s zoals pandemieën en een kernoorlog.”

• Het is moeilijk om de omvang van het gevaar in zo’n kort bericht over te brengen.
• Er wordt geen concrete uitleg gegeven over hoe AI een gevaar vormt voor de mensheid.
• Voorts stellen ze geen oplossing voor.
• Hoe kunnen we die boodschap serieus nemen?

Hoewel de verklaring is ondertekend door enkele grote namen uit de sector, ontbreekt de inhoud om enig effect te hebben.

• In de inleiding staat dat de verklaring vooral tot doel heeft “een discussie op gang te brengen” en “kennis te delen van het groeiende aantal deskundigen en publieke figuren die ook enkele van de ernstigste risico’s van geavanceerde AI serieus nemen.”

Maak niet dezelfde fouten

Dan Hendrycks, uitvoerend directeur van het Center for AI Safety, de in San Francisco gevestigde non-profitorganisatie achter de waarschuwing, gaf in een interview met de New York Times enig inzicht in de lengte van de verklaring.

• Hij legde uit dat de bondigheid van het bericht bedoeld was om meningsverschillen te vermijden die waren ontstaan door de brief die mee was ondertekend door onder meer Elon Musk en Steve Wozniak en waarin werd opgeroepen tot een pauze van 6 maanden in de ontwikkeling van AI.
• Dat voorstel werd op verschillende niveaus bekritiseerd, met name door Mark Zuckerberg en Bill Gates. Volgens sommigen werd het risico van AI overdreven. Anderen waren het niet eens met de voorgestelde remedie.
  • Het is moeilijk om iedereen op één lijn te krijgen. Daarom hielden de ondertekenaars van de recente verklaring het liever kort.
  • “We wilden geen zeer breed menu van 30 mogelijke ingrepen aanbevelen, wat de boodschap zou hebben verwaterd”, aldus Hendrycks.

Met 22 woorden is het hoe dan ook moeilijk om de omvang van het probleem in te schatten. Die zoveelste verklaring, die weinig zegt, zal waarschijnlijk worden overschaduwd door de stortvloed van andere waarschuwingen en meningen over kunstmatige intelligentie.

Uiteenlopende meningen

De uitleg van Hendrycks blijkt interessanter te zijn dan de verklaring die is ondertekend door de CEO’s van DeepMind en OpenAI, evenals twee van de Turing Award-winnaars van 2018 voor hun werk aan AI.

• Hij legde uit dat het bericht een vorm van “coming-out” was voor figuren uit de industrie. “Er bestaat een algemene misvatting, zelfs in de AI-gemeenschap, dat er slechts een handvol doemdenkers zijn”, zei hij. “In werkelijkheid uiten veel mensen achter de schermen hun bezorgdheid hierover.”

De opmerkelijke verklaring zou er dus toe kunnen leiden dat industriëlen een publiek standpunt innemen en uiteindelijk meer concrete, goed onderbouwde waarschuwingen geven.

(ns)