De gewezen Amerikaanse minister van Buitenlandse Zaken Henry Kissinger en de voormalige CEO van Google Eric Schmidt waarschuwen in een opiniestuk voor de gevaren van kunstmatige intelligentie (AI). Ze willen dat de overheid AI reguleert. Samen met Daniel Huttenlocher, decaan van het Schwarzman College of Computing aan de technische universiteit MIT, verwoordden ze hun bedenkingen in de Wall Street Journal.
“Al 300 jaar geldt: ‘Ik denk, dus ik ben.’ Maar als kunstmatige intelligentie ‘denkt’ voor ons, wat zijn we dan?”
Waarom is dit belangrijk?
De volgende technologische revolutie staat voor de deur; en kunstmatige intelligentie (of AI) gaat daar een prominente rol in spelen. Denk aan de toepassing van AI bij het wervingsproces van bedrijven, waarbij algoritmes kunnen worden gebruikt om potentiële medewerkers te schiften. Bepaalde AI-toepassingen op dit gebied dreigen echter discriminatie te versterken. Opdat de technologie zich niet over ethische vraagstukken zou moeten buigen, roepen nogal wat denkers op tot een strikte regulering ervan. Ook is er de vraag welke rol het menselijke denken zelf nog zal spelen als het meer en meer algoritmes zijn die zich over de hete hangijzers in technologie en wetenschap zullen buigen …In het opiniestuk waarschuwt het triumviraat dat AI in potentie diepgaande filosofische vragen kan opwerpen over “het primaat van de menselijke rede” en de rol van de mens in de wereld.
“Morele autoriteit van mensen”
Het drietal roept op tot de oprichting van een commissie die tot taak zou hebben “AI vorm te geven met menselijke waarden, waaronder de waardigheid en morele autoriteit van mensen”.
“In de VS zou een commissie moeten worden opgericht die door de regering wordt beheerd, maar die wordt bemand door vele denkers uit vele domeinen. De vooruitgang van AI is onvermijdelijk, maar zijn uiteindelijke bestemming is dat niet,” schrijven ze.
Rol van de mens in de wereld
De drie mannen betogen dat de ontwikkeling van AI belangrijke vragen oproept over de aard van creativiteit en de rol van de mens in de wereld.
“Als een AI het beste scenario van het jaar schrijft, moet hij dan de Oscar winnen? Als een AI de belangrijkste diplomatieke onderhandeling van het jaar simuleert of voert, moet hij dan de Nobelprijs voor de vrede winnen? Moeten de menselijke uitvinders dat doen?”, schrijven ze.
De hele geschiedenis lang hebben mensen geprobeerd de werkelijkheid en onze rol daarin te begrijpen,” aldus het essay.
“Nu maakt AI, een product van menselijk vernuft, het primaat van de menselijke rede overbodig: het onderzoekt aspecten van de wereld sneller dan wij, anders dan wij, en in sommige gevallen op een manier die wij niet begrijpen.”
“Dat betekent dat de mens onze rol in de wereld moet definiëren – of misschien opnieuw definiëren. Al 300 jaar wordt het tijdperk van de rede geleid door de stelregel ‘ik denk, dus ik ben’. Maar als AI ‘denkt’, wat zijn wij dan?”
Bill of Rights
Vorige maand heeft The Office of Science and Technology Policy van het Amerikaanse Witte Huis opgeroepen tot het opstellen van een “bill of rights”, een grondwet, om misbruik van AI tegen te gaan.
“Ons land moet duidelijk maken welke rechten en vrijheden we verwachten dat data-gedreven technologieën respecteren’, schrijven OSTP-directeur dr. Eric Lander en OSTP-adjunct-directeur voor Wetenschap & Samenleving dr. Alondra Nelson in een opiniestuk.
“In een concurrerende markt lijkt het misschien gemakkelijker om de kantjes eraf te lopen,” klinkt het nog.
“Maar het is onaanvaardbaar om AI-systemen te maken die veel mensen zullen schaden, net zoals het onaanvaardbaar is om farmaceutische producten en andere producten te maken – of het nu auto’s, kinderspeelgoed of medische apparaten zijn – die veel mensen zullen schaden.”
De afgelopen jaren heeft ook de Federal Trade Commission, een Amerikaanse concurrentiewaakhond, geprobeerd om bepaalde toepassingen van AI bij kredietbeslissingen te reguleren.
Etnische discriminatie
Activisten hebben reeds hun bezorgdheid geuit over de manifestatie van discriminatie in AI-systemen.
Zo drong Black Lives Matter-medeoprichter Opal Tometi er recent bij de techsector op aan om op te treden tegen etnisch profilerende algoritmes, weet The Daily Mail. Vooral bij gezichtsherkennende systemen zou dat een groot probleem zijn.
Ethische training
“We kunnen niet verwachten dat AI ons corrigeert zodat we meer ethische beslissingen nemen. AI werkt als een spiegel voor onze biases. Ze imiteert alles wat ze van onze data leert. Als datasets biased zijn, zal AI dat ook zijn,” schrijft de schaker Garry Kasparov in een ander opiniestuk.
“Als AI zich onethisch gedraagt, moeten managers worden getraind om te herkennen welke menselijke bias tot de beslissing van de machine leidt,” conludeert Kasparov.
(bzg)