Artificiële Inteligentie (A.I) kan de overlevingskansen van een zieke patiënt met grote nauwkeurigheid voorspellen, zonder dat wetenschappers begrijpen hoe die kansen juist worden berekend. Volgens de Harvard Business Review (HBR) is de redenering achter de berekening uiteindelijk ook van minder belang, omdat ze om te beginnen te complex is om te begrijpen en ze daarnaast in 90% van de onderzochte gevallen ook correct blijkt.

De HBR citeert een studie die werd uitgevoerd door een reeks wetenschappers van de universiteiten van Chicago, Stanford, San Francisco (UCLA) en internetzoekmachine Google. Daarbij werden de geanonimiseerde data van honderdduizenden patiënten aan een reeks machine learning-algoritmes toevertrouwd. [Machine learning of machinaal leren is een breed onderzoeksveld binnen kunstmatige intelligentie, dat zich bezighoudt met de ontwikkeling van algoritmes en technieken waarmee computers kunnen leren.] De berekeningen werden daarna toevertrouwd aan de krachtige computers van Google. 

De resultaten sloegen de academici met verstomming:

De machines berekenden de overlijdenskansen van de patiënt met een nauwkeurigheidsgraad van 90% en dat binnen de 24 uur na de opname van de patiënt in een ziekenhuis. Maar de onderzoekers konden de logica achter de door de machines ontdekte patronen niet uitleggen.

Dat kan grote gevolgen hebben. Stel u voor dat u in een ziekenhuis wordt opgenomen waar men u vertelt dat u gaat sterven, “omdat de computer het zegt. Waarom de computer dat zegt weten we niet, maar in 9 op de 10 gevallen heeft hij het bij het rechte eind.”

Sommige landen willen een verbod op “niet-verklaarbare algoritmes”

In sommige landen is er  al weerstand tegen dit soort methodes en pleiten politici voor een volledig verbod op het gebruik van “niet-verklaarbare algoritmes’. Frankijk is daar een voorbeeld van. 

Maar in sommige gevallen zullen artsen de verplichting opgelegd krijgen om modellen te gebruiken die nauwkeuriger zijn dan hun menselijke expertise. Dat betekent niet dat de mening van de arts irrelevant zal worden, wel dat zich naast nieuwe kansen ook nieuwe gevaren zullen aandienen, naargelang de technologie verder evolueert en nauwkeuriger wordt.