En munk agerar som AI-etikviskare för Vatikanen och Italien

Före gryningen klättrade Paolo Benanti upp i klocktornet i sitt kloster från 1500-talet, beundrade soluppgången över ruinerna av det romerska forumet och reflekterade över en ständigt föränderlig värld.

“Det var en underbar meditation över vad som händer inombords,” sa han och klev ut på gatan i sin munkrock. “Och utanför också.”

Det händer mycket för fader Benanti, som, som expert på artificiell intelligens etik för både Vatikanen och den italienska regeringen, ägnar sina dagar åt att tänka på den Helige Ande och spöken i maskiner.

Under de senaste veckorna har etikprofessorn, prästvigd och självutnämnd nörd, anslöt sig till Bill Gates i ett möte med premiärminister Giorgia Meloni, ordförande för en kommission som försökte rädda italiensk media från Chat GBT-signaturer och glömska generalen för AI, och träffade Vatikanen tjänstemän kommer att främja påven Franciskus mål att skydda de utsatta från den kommande tekniska stormen.

Vid en konferens som anordnades av den antika riddarorden av Malta sa han till en skara ambassadörer att “global styrning behövs; annars är risken social kollaps”, och han talade om kallelsen till Rom, en Vatikanstat, en italiensk regering, Silicon Valley och FN:s ansträngning som han hjälpte till att organisera för att skydda en modig ny värld med dessa typer av chatbots.

Författare till många böcker (“Homo Faber: The Techno-Human Condition”) och en regelbunden medlem av internationella AI-paneler, Fader Benanti, 50, är ​​professor vid Gregoriana, Harvard vid de påvliga universiteten i Rom, där han undervisar i moralteologi . etik och en kurs som heter “Babels fall: utmaningarna med digitala, sociala nätverk och artificiell intelligens.”

För en kyrka och ett land som vill dra fördel av och överleva nästa AI-revolution, är ditt jobb att ge råd ur ett etiskt och andligt perspektiv. Han delar sina idéer med påven Franciskus, som i sitt årliga meddelande om världsfredsdagen den 1 januari krävde ett globalt fördrag för att säkerställa den etiska utvecklingen och användningen av AI för att undvika en värld utan mänsklig barmhärtighet, där outgrundliga algoritmer avgör vem det är. vem som beviljas asyl, vem som får en inteckning eller som på slagfältet lever eller dör.

Dessa farhågor speglade fader Benantis, som inte tror på branschens förmåga att självreglera och anser att vissa regler krävs i en värld där djupa förfalskningar och desinformation kan urholka demokratin.

Han oroar sig för att mästarna i AI-universen utvecklar system som kommer att vidga ojämlikhetens avgrund. Han fruktar att övergången till AI kommer att bli så abrupt att hela yrkesområden kommer att lämnas att utföra snålt arbete, eller ingenting alls, beröva människor deras värdighet och släppa lös översvämningar av “förtvivlan”. Detta, sa han, väcker enorma frågor om omfördelningen av välstånd i ett universum som domineras av AI.

Men han ser också potentialen med AI.

För Italien, med en av de äldsta och krympande befolkningarna i världen, funderar fader Benanti noga på hur AI kan hålla produktiviteten flytande. Och hela tiden tillämpar han sitt perspektiv på vad det innebär att vara levande och mänsklig, när maskiner verkar mer levande och mänskliga. “Detta är en andlig fråga”, sa han.

Efter sin morgonmeditation gick fader Benanti, med jeansens nederdel kikade under sin svarta mantel, till jobbet. Han gick förbi Trajanus pelare från andra århundradet och gick försiktigt in i övergångsstället på en av de mest trafikerade gatorna i Rom.

“Detta är den sämsta staden för autonoma fordon”, sa han. “Det är för komplicerat. Kanske i Arizona.”

Hans kontor på Gregorian är dekorerat med inramade utskrifter av hans egna gatufotografier (bilder på utstötta romare som röker cigaretter, ett uttråkat par som föredrar sina mobiltelefoner framför sitt barn) och fotografier av honom och påve Franciskus som håller varandra i hand. Hans religiösa kall, förklarade han, kom efter hans vetenskapliga.

Född i Rom, hans far arbetade som maskiningenjör och hans mamma undervisade i gymnasievetenskap. Som barn älskade han “Sagan om ringen” och Dungeons and Dragons, men han var ingen enstöring med spel, eftersom han också var en pojkscout som samlade fotografi, segling och matlagningsmärken.

När hans grupp 12-åringar besökte Rom för att göra välgörenhetsarbete träffade han biskop Vincenzo Paglia, som då var kyrkoherde, men som liksom han skulle arbeta för den italienska regeringen (som medlem i landets åldrandekommission). ). ) och Vatikanen. Nu är kardinal Paglia fader Benantis överordnade vid den påvliga akademin för kyrkligt liv, som har till uppgift att brottas med hur man kan främja kyrkolivets etik mitt i bioetiska och tekniska omvälvningar.

När fader Benanti träffade Monsignor Paglia gav en farbror honom en Texas Instruments hemdator i julklapp. Han försökte designa om den för att spela tv-spel. “Det har aldrig fungerat”, sa han.

Han gick på en gymnasieskola som betonade klassikerna (för att visa sin trovärdighet i antiken brast han ut, när han gick till jobbet, med början av Odyssén på antikens grekiska) och en filosofiprofessor trodde att han hade en framtid som reflekterade över innebörden av saker. Men hur saker och ting fungerade hade en större attraktion, och han tog en ingenjörsexamen från Sapienza-universitetet i Rom. Det var inte tillräckligt.

“Jag började känna att något saknades”, sa han och förklarade att framsteg inom ingenjörskonst raderade bort den mystik som maskiner hade för honom. “Jag bröt bara magin.”

1999 trodde hans dåvarande flickvän att han behövde mer Gud i sitt liv. De gick till en franciskansk kyrka i Massa Martana, i Umbrien, där hans plan fungerade för bra eftersom han då insåg att han behövde ett heligt utrymme där han “inte kunde sluta ifrågasätta livet.”

I slutet av året övergav han sin flickvän och gick med i franciskanerorden, till stor bestörtning för sina föräldrar, som frågade honom om han överkompenserade för ett dåligt uppbrott.

Han lämnade Rom för att studera i Assisi, den helige Franciskus hem, och under det följande decenniet avlade han sina sista löften som munk, vigdes till präst och försvarade sin avhandling om mänsklig förbättring och cyborgs. Han fick sitt jobb på gregorianska och så småningom som Vatikanens dataetiska officer.

“Det kallas av många institutioner”, sade kardinal Gianfranco Ravasi, som brukade leda Vatikanens kulturavdelning, där fader Benanti var en vetenskaplig rådgivare.

2017 anordnade kardinal Ravasi ett evenemang på den italienska ambassaden till Heliga stolen där Fader Benanti höll ett föredrag om AI-etiken. Microsoft-tjänstemän som deltog var imponerade och bad att hålla kontakten. Samma år bad den italienska regeringen honom att bidra till AI-policydokument och året därpå ansökte han framgångsrikt om att gå med i dess kommission för att utveckla en nationell AI-strategi.

Sedan, 2018, återupptog han kontakten med nu-kardinal Paglia, en av Francis favoriter, och sa till honom “titta, något stort rör sig.” Kort därefter bad fader Benantis kontakter på Microsoft honom att hjälpa till att ordna ett möte mellan Francis och Microsofts president Brad Smith.

Fader Benanti, som en del av Vatikanens delegation, översatte tekniska termer under mötet 2019. Francis, sa han, insåg först inte vad Microsoft verkligen gjorde, men han gillade att Smith drog upp ett av talen ur fickan. påven på sociala nätverk och visade påven de farhågor som chefen hade lyft fram och delat.

Francis, som fader Benanti säger har blivit mer AI-läser, särskilt efter att en bild av påven med en AI-designad vit rock blev viral, blev senare mer animerad. Påven gillade att diskussionen handlade mindre om teknik, sa fader Benanti, och mer om “vad han kan göra” för att skydda de utsatta.

Förra månaden deltog fader Benanti, som sa att han inte får betalt av Microsoft, i ett möte mellan Gates, företagets medgrundare, och Meloni, som är oroad över AI:s inverkan på arbetskraften. “Hon måste styra ett land”, sa han.

Hon har nu namngett Fader Benanti kommer att ersätta chefen för AI:s kommission för italienska medier som den var missnöjd med.

“Lydnad till auktoritet är ett av löftena”, sa fader Benanti när han lekte med knutarna på bältet på sin tunika som symboliserar hans franciskanerordens löfte om lydnad, fattigdom och kyskhet.

Den kommissionen studerar sätt att skydda italienska författare. Fader Benanti anser att företag med artificiell intelligens bör hållas ansvariga för att de använder upphovsrättsskyddade källor för att träna sina chatbots, även om han oroar sig för att det ska bli svårt att bevisa detta eftersom företagen är “svarta lådor”.

Men det mysteriet har också, för fader Benanti, återigen genomsyrat tekniken med magi, även om den är av det mörka slaget. I den meningen var det inte så nytt, sa han och hävdade att medan antika romerska maskar vände sig till fåglarnas flygning för riktning, kunde AI, med sin enorma förståelse för våra fysiska, emotionella och preferensdata, vara de nya oraklen. . bestämma beslut och ersätta Gud med falska idoler.

“Det är något gammalt som vi förmodligen tror att vi har lämnat bakom oss,” sa munken, “men det kommer tillbaka.”

Leave a Reply

Your email address will not be published. Required fields are marked *