Key takeaways

• Paus Leo XIV introduceert “Magnifica Humanitas” als leidraad voor de ethiek van artificiële intelligentie.
• Het Vaticaan veroordeelt het gebruik van digitale wapens en de uitholling van de menselijke waardigheid.
• Dit manifest roept op tot dringende wereldwijde actie om te voorkomen dat AI de sociale ongelijkheid vergroot.

Maandag introduceerde paus Leo XIV “Magnifica Humanitas”. Dit een belangrijke encycliek waarin het standpunt van de katholieke kerk wordt uiteengezet over de ethische en maatschappelijke dilemma’s die artificiële intelligentie met zich meebrengt. Dat meldt AP. In een ongekende stap zal de in Amerika geboren paus de onthulling in het Vaticaan leiden. Hij wordt vergezeld door hooggeplaatste geestelijken en prominente techfiguren, zoals Dario Amodei, medeoprichter van Anthropic. De aanwezigheid van Amodei is opmerkelijk. Zijn bedrijf momenteel verwikkeld is in juridische geschillen met het Amerikaanse leger vanwege zijn weigering om toe te staan dat zijn AI-modellen worden gebruikt voor massasurveillance of autonome wapens.

Een standpunt tegen digitale bewapening

Sinds hij een jaar geleden het roer overnam, is paus Leo XIV een uitgesproken criticus van het gebruik van AI als wapen. Hij beschrijft het laten beslissen van het lot van de mens door machines als een “destructieve spiraal”. Naast oorlogsvoering heeft hij zijn diepe bezorgdheid geuit over de “razende” jacht op zeldzame aardmetalen. Hij haalt de daaruit voortvloeiende ecologische verwoesting aan. Hij heeft ook gewaarschuwd voor de uitholling van de waarheid, uit vrees voor een toekomst waarin gesimuleerde omgevingen geleidelijk de werkelijke realiteit verdringen.

Het Vaticaan beschouwt dit manifest als een moderne uitbreiding van zijn sociale doctrines. Het manifest specifiek gericht op het waarborgen van de menselijke waardigheid in het digitale tijdperk. Door het document op 15 mei te ondertekenen, eerde de paus de 135e verjaardag van de encycliek van Leo XIII uit 1891. Deze paus ging toen in op de maatschappelijke omwentelingen van de Industriële Revolutie. Marijana Grbesa, hoogleraar politieke wetenschappen, merkte op dat terwijl de Industriële Revolutie nieuwe technische vaardigheden vereiste. Het huidige AI-tijdperk vereist echter een diepere “wake-up call” voor de beschaving om rationaliteit en kritisch denken te behouden.

Wereldwijde implicaties en economische zorgen

Dit document zal naar verwachting enorm veel gewicht in de schaal leggen. Sommige analisten vergelijken de potentiële wereldwijde impact ervan met paus Franciscus’ richtlijn over klimaatverandering uit 2015, “Laudato Si”. De urgentie wordt aangehaald door waarschuwingen van de VN dat de winsten uit AI steeds meer geconcentreerd raken bij een kleine elite, terwijl de waarde van de sector naar verwachting in 2033 4,8 biljoen dollar zal bedragen. VN-secretaris-generaal Antonio Guterres maakte eerder duidelijk dat de kans om AI in de richting van rechtvaardigheid en vrede te sturen snel aan het verdwijnen is.

Harde inspanningen

De tekst “Magnificent Humanity” is het resultaat van jarenlang onderzoek door de Heilige Stoel, voortbouwend op de “Rome Appeal for an AI Ethic” uit 2020. Leo XIV zet het werk voort van zijn voorganger, paus Franciscus, die pleitte voor strenge regelgeving om te voorkomen dat AI sociale ongelijkheden vergroot. De huidige paus heeft specifiek de noodzaak van digitale geletterdheid benadrukt om de manieren te bestrijden waarop algoritmen de werkelijkheid verdraaien en wereldwijde polarisatie, geweld en angst aanwakkeren, terwijl hij kritiek uitte op de ondoorzichtige aard van de software die moderne chatbots aanstuurt.

Volg Business AM ook op Google Nieuws

Wil je toegang tot alle artikelen, geniet tijdelijk van onze promo en abonneer je hier!