Paus Franciscus sprak vrijdag de leiders van de G7-democratieën toe tijdens hun jaarlijkse top in Puglia, Italië.
De 87-jarige paus, die in een rolstoel arriveerde, werd tijdens het evenement een onwaarschijnlijke AI-ethicus.
Zijn boodschap was bekend: AI belooft grote voordelen voor de mensheid, maar brengt ernstige risico's met zich mee als het niet goed wordt gecontroleerd.
Franciscus drong er bij de verzamelde leiders, waaronder de Amerikaanse president Joe Biden en de Italiaanse premier Giorgia Meloni, op aan ervoor te zorgen dat AI gericht blijft op de mens.
Spreken over technologie is spreken over wat het betekent om mens te zijn". Francis zeien waarschuwde dat het overdragen van te veel beslissingsbevoegdheid aan machines "de mensheid zou veroordelen tot een toekomst zonder hoop" en de menselijke waardigheid zou ondermijnen.
"We zouden de mensheid veroordelen tot een toekomst zonder hoop als we mensen het vermogen zouden ontnemen om beslissingen te nemen over zichzelf en hun leven, door ze afhankelijk te maken van de keuzes van machines," zei hij tegen de wereldleiders.
"We moeten ruimte creëren voor menselijke controle over de keuzes die kunstmatige intelligentieprogramma's maken: De menselijke waardigheid zelf hangt ervan af."
Francis had het ook over positieve aspecten en zei dat AI de "democratisering van de toegang tot kennis", de "exponentiële vooruitgang van wetenschappelijk onderzoek" en een vermindering van "veeleisend en zwaar werk" mogelijk zou kunnen maken.
Alle lof voor de Paus, hij maakte niet oppervlakkige analyses van de beperkingen van AI, een zeer saillant onderwerp waarover gedebatteerd wordt in de hogere regionen van Silicon Valley.
"Mensen ontwikkelen zich altijd en kunnen ons verrassen met hun acties. Dit is iets waar een machine geen rekening mee kan houden," stelde hij, en dat algoritmes "alleen realiteiten kunnen onderzoeken die geformaliseerd zijn in numerieke termen."
Paus zegt dodelijke robots te verbieden
Franciscus riep ook op tot een algeheel verbod op dodelijke autonome wapens"killer robots" en verklaarde dat "geen enkele machine er ooit voor zou mogen kiezen om het leven van een mens te nemen".
De harde waarheid is dat het daar waarschijnlijk te laat voor is, nu AI-wapens al worden ingezet in de Rusland-Oekraïne en Conflicten tussen Israël en Palestinatenminste.
De Italiaanse premier Meloni nodigde de paus uit voor de G7, met als doel zijn gravitas en morele overtuigingskracht in te zetten. Het leek te werken. Het optreden van de paus zorgde voor een dosis moreel beraad in de G7-besprekingen en zijn boodschap vond duidelijk weerklank.
In latere discussies werd het potentieel van AI erkend om arbeidsmarkten te verstoren als machines menselijke werknemers vervangen en om de strafrechtspleging scheef te trekken - iets waar we allemaal al bewijs van hebben gezien.
Bijvoorbeeld de Het IMF waarschuwde eerder dit jaar dat AI wereldwijd wel 40% aan banen kan opleveren. AI-politiesystemen komen in een stroomversnelling, waarbij voorlopig bewijs aantoont dat ze onvoorspelbaar kunnen zijn.
Franciscus woog ook mee over andere dringende agendapunten van de G7. Hij hekelde indirect de inval van Rusland in Oekraïne en betreurde de "ernstige schending van de territoriale integriteit van een soeverein land". Hij riep ook op tot een eerlijkere verdeling van COVID-vaccins en -behandelingen aan armere landen.
De katholieke kerk heeft een lange geschiedenis in het worstelen met de morele en maatschappelijke implicaties van nieuwe technologieën en wetenschappelijke vooruitgang.
In de loop van de decennia hebben verschillende pausen zich uitgesproken over zaken variërend van kernwapens en genetische manipulatie tot sociale media en klimaatverandering.
In 1963 gaf paus Johannes XXIII bijvoorbeeld het iconische "Pacem in Terris" uit, waarin de dreiging van de nucleaire wapenwedloop aan de orde werd gesteld.
Paus Johannes Paulus II sprak vaak over bio-ethiek en waarschuwde tegen de vercommercialisering van menselijk leven door praktijken als embryonaal stamcelonderzoek.
Meer recentelijk hebben paus Benedictus XVI en paus Franciscus het digitale tijdperk onder ogen gezien, waarbij Franciscus toegang tot internet tot een mensenrecht verklaarde in 2020.
De G7 heeft gezworen om AI-governancekaders beter te coördineren om de technologie in toom te houden, een sentiment dat de laatste tijd door elke internationale top heen klinkt.
