La magnifica enciclica del Papa sull'intelligenza "coltivata"

Leone XIV legge l’intelligenza artificiale come una nuova questione sociale: qualcosa che cresce tra noi e ci modifica, e che dobbiamo disarmare

Dopo aver ascoltato la presentazione nell’Aula del Sinodo e aver finito di leggere l’enciclica di Leone XIV, il cui sottotitolo è Sulla custodia della persona umana nel tempo dell’intelligenza artificiale, ho la fortissima sensazione che si tratti di un testo storico, che mi auguro venga letto e capito davvero.

Che uno sia cattolico o ateo, agostiniano o gesuita (o spinoziano come il sottoscritto), poco importa: questo testo e la dottrina sociale che ne deriva sono fondamentali per capire che cosa ci sta accadendo mentre affidiamo alla tecnica una parte crescente del linguaggio, del giudizio e dell’immaginazione, e cosa possiamo fare concretamente per praticare una terza via oltre la tecnomania e la tecnofobia.

Per spiegarne la portata è utile partire da una parola usata al paragrafo 98 di Magnifica humanitas, che Leone XIV lascia cadere quasi di sfuggita: coltivare. Scrive che

«le moderne intelligenze artificiali sono più “coltivate” che “costruite”»¹

poiché gli sviluppatori «non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA “cresce”»; e riferendosi alle IA ammette che «tutti noi, compresi coloro che li progettano, conosciamo poco del loro effettivo funzionamento».

Immagine di Alessandra Tarantino/AP

Mistero della rete

A questo proposito, alla presentazione dell’enciclica accanto al Papa sedeva tra gli altri relatori Christopher Olah, cofondatore di Anthropic, che guida la squadra incaricata di decifrare cosa accada davvero dentro i modelli di frontiera. Nel suo intervento a commento dell’enciclica ha detto che le nuove IA generative come Claude «restano misteriose persino per noi che le addestriamo». «Continuiamo a trovare cose misteriose e inquietanti, strutture che rispecchiano il funzionamento umano, stati interni, gioia, soddisfazione, paura». Nessuno dei due, né il Papa né Olah, intendeva dire che le IA siano vive o coscienti. Piuttosto, il co-founder di una delle aziende più influenti del mondo ha ammesso che le domande sollevate da queste macchine sono più grandi della comunità scientifica che le ricerca, perché i sistemi vengono coltivati su un’architettura ispirata al cervello, nutriti dall’eredità del pensiero e del linguaggio umani e hanno quindi «aspetti più sottili, e profondi e belli» (e pericolosi, aggiungerei) «di quanto la fantascienza ci abbia preparato ad aspettarci».

E «aprono quindi domande che spettano alle scienze umane, alla religione, alla filosofia e alla società intera», che non possono e non devono restare chiuse nei laboratori e negli uffici di una manciata di multimiliardari.

Un frame dall’intervento di Olah in Vaticano.

Appare quindi ancor più evidente perché un Papa abbia consegnato la sua prima enciclica a questo tema. Com’è noto Robert Prevost, eletto nel maggio del 2025, ha scelto di chiamarsi Leone pensando a Leone XIII, che con la Rerum novarum affrontò la questione sociale dentro la prima grande rivoluzione industriale. A suo avviso la Chiesa ha oggi il dovere di offrire una nuova dottrina sociale di fronte a un’altra rivoluzione industriale, quella dell’IA, che ha appena cominciato a stravolgere il mondo.²

Ma se la macchina di Leone XIII era costruita, quella di Leone XIV è coltivata. Il telaio, la macchina a vapore, la fabbrica erano congegni montati e posseduti, di fronte ai quali l’operaio stava come un costo accanto a un apparato; la questione sociale del 1891 nasceva quindi da macchine fabbricate e da uomini piegati a servirle. La macchina oggi ha cambiato natura ed è passata dalla parte di ciò che cresce. Ed è per questo che l’enciclica, prima ancora di nominarla, dedica due interi capitoli a rifondare la dottrina sociale.

Lo si vede là dove Leone XIV iscrive la lotta contro «le nuove schiavitù», il lavoro nascosto delle filiere digitali, nel solco della Rerum novarum, e nello stesso respiro riconosce che su quella vecchia, la schiavitù vera, la Chiesa arrivò troppo tardi «avendo a lungo tollerato la schiavitù e giungendo solo in seguito a condannarla in modo assoluto». È una richiesta di perdono che contiene un avvertimento: non rifacciamo lo stesso errore.

Il frontespizio della lettera

Disarmare l’IA

Oggi l’IA, se lasciata in mano a chi la possiede, rischia di produrre una schiavitù su scala mondiale tra armi autonome e sistemi di controllo e manipolazione iperpervasivi: è per questo che bisogna disarmarla. Vale la pena citare per intero il paragrafo 110 dell’Enciclica, magistrale per chiarezza e capacità di sintesi.

Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare. Disarmare non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile, restituendola alla pluralità delle culture umane e delle forme di vita. Il compito, oggi, non è solo etico o tecnico: è ecologico nel senso più radicale, perché chiama in causa una nuova dimensione della nostra Casa comune. L’IA è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti. Per questo, non basta regolarla: va disarmata e resa ospitale.

La filosofia ha tenuto separate, da Aristotele in poi, due maniere di venire al mondo. C’è ciò che cresce da sé, la physis, la pianta che si fa dal seme secondo una forma che porta già in sé, e c’è ciò che viene fabbricato, l’opera della techne, il letto e la statua, che la forma la ricevono da fuori, dalla mano e dalla mente di chi le costruisce. La tecnica, si pensava, imita la natura proprio perché non sa generarla. Per tutta la nostra storia abbiamo costruito oggetti che stavano dalla parte della statua, inerti, prevedibili, smontabili, fedeli al progetto.

La frase sul coltivare di Leone XIV registra il fatto che per la prima volta una techne produce qualcosa che, per il modo in cui lo conosciamo e lo governiamo, entra nel regime della physis, ossia si fa macchina che cresce. Ripetiamolo: una rete neurale non respira e non sente, e nessuno qui la dichiara viva. Ma chi la fa ne dispone le condizioni e poi attende un esito che non ha disegnato. È questa asimmetria tra il sapere che precede e l’esito che eccede a spostare la macchina dalla parte di ciò che cresce.

Costruire e coltivare sono due rapporti diversi con ciò che facciamo, e diversa è la conoscenza che concedono. Dire che le intelligenze artificiali si coltivano apre al fatto che questa cosa coltivata stia già ricoltivando chi la usa. Leone XIV lo vede con chiarezza: al paragrafo 100 scrive che il rischio della relazione con l’IA è l’atrofia, e la possibilità che chi interagisce con una macchina che simula cura e comprensione perda il desiderio stesso di cercare un altro essere umano. E poi:

«L’impressione di oggettività che le risposte e le proposte di questi sistemi possono suscitare rischia di farci dimenticare che esse riflettono i parametri culturali di chi li ha progettati e addestrati, con tutti i loro pregi e difetti». (100)

È il tratto più inquietante della coltivazione: il contadino scopre che la terra lo sta cambiando.

Immagini dall’evento.

Generato, non creato

C’è poi, in quella coppia di parole, un’eco cristiana molto forte. «Coltivate, non costruite» fa vibrare da lontano «generato, non creato», la formula più solenne del Credo con cui il Concilio di Nicea nomina il Figlio. Il Figlio che è della stessa sostanza del Padre, mentre la macchina è coltivata nell’opacità dell’addestramento. La somiglianza della forma serve in realtà a misurare una distanza assoluta, che l’enciclica traccia al paragrafo 99: le cosiddette intelligenze artificiali

«non vivono una esperienza, non possiedono un corpo, non attraversano la gioia e il dolore, non maturano nella relazione, non conoscono dall’interno ciò che significa amore, lavoro, amicizia, responsabilità».

Il modo in cui la macchina impara è «un adattamento statistico [...] che può essere molto efficace», e «non implica una crescita interiore», lontano dall’«esperienza di chi si lascia plasmare dalla vita e cresce nel tempo attraverso scelte, errori, perdono, fedeltà».

Eppure l’innovazione tecnologica, scrive Leone XIV al paragrafo 111, «può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione», e perciò chi sviluppa questi sistemi porta «un particolare peso etico e spirituale, poiché ogni scelta progettuale esprime una visione dell’umanità». Leone non arriva a dirlo, ma portando a fondo il ragionamento la cosa coltivata smette di essere un semplice strumento dentro le nostre relazioni e diventa parte del campo in cui esse accadono, un ambiente che le rimodella mentre vi partecipiamo. E coloro che coltivano l’IA sono paragonati nel testo, con esattezza, agli autori di un’opera d’arte:

«Come l’autore di un’opera artistica o letteraria è tenuto a considerare i valori che essa esprime, così essi sono chiamati a trattare con la dovuta serietà i valori che infondono nei loro progetti».

Chi coltiva un’IA partecipa, per la sua piccola parte, a un gesto di creazione, e ha il dovere di prendersi cura dell’opera e degli effetti che questa ha sul mondo. Il seminatore risponde di quel che semina anche quando non governa pienamente ciò che germoglia.³

Contro l’addomesticamento coatto

Ma chi possiede il campo, e chi ne subisce gli effetti nefasti? Leone XIV sa bene che questo è un punto centrale, e al paragrafo 109 lo dice con nettezza: bisogna «riconoscere il lavoro invisibile, spesso sfruttato, che alimenta i modelli algoritmici» e «interrogare le geografie del potere che definiscono chi può addestrare i modelli e chi è solo oggetto di addestramento». Miliardi di persone hanno prodotto i testi, le immagini, le conversazioni, i gesti digitali su cui queste intelligenze sono state coltivate. Sono il terreno ma non hanno avuto voce in capitolo nella semina, non partecipano al raccolto, e la cosa che è cresciuta dai loro dati li riconfigura ogni giorno senza che possano intervenirci. Al paragrafo 108 il Papa arriva a dire che i dati «sono frutto del contributo di molti e non possono essere venduti o affidati a pochi», e chiede che vengano gestiti come beni comuni o collettivi.

Per secoli a una tecnica abbiamo chiesto che cosa sapesse fare, ed era la domanda dello strumento. Da poco, davanti all’intelligenza artificiale, abbiamo preso a chiederle che cosa sia, ed è la domanda ontologica che il Papa chiude al paragrafo 99. Ma se prendiamo sul serio l’idea di coltivazione se ne apre la terza, ossia che cosa cresce nella relazione tra chi coltiva e ciò che è coltivato.

Il grano, addomesticandosi, ha addomesticato anche noi, ci ha fatti sedentari e ha legato i nostri calendari alle sue stagioni. E quando Thomas Talhelm e i suoi colleghi, in uno studio del 2014, hanno confrontato le regioni cinesi del riso e quelle del grano, hanno trovato che le prime pensano in modo più interdipendente e le seconde in modo più individualista, perché la risaia esige acqua condivisa e lavoro coordinato mentre il campo di frumento si ara quasi da soli. La forma del coltivare scolpisce quella del pensiero lungo le generazioni. Ora che coltiviamo una coltura cognitiva addestrata da una manciata di ingegneri convinti che il limite umano sia un bug da correggere, resta da chiederci quale individualismo o quale interdipendenza ci stia, lentamente, arando dentro.

Ogni tecnologia, del resto, ci promette una delega, le affidiamo un pezzo di ciò che facciamo, e ce lo restituisce avendoci nel frattempo riconfigurati, fino a spostare il confine di quel che chiamavamo noi. Con una techne che cresce questa reciprocità diventa la trama stessa del tempo che abitiamo.

Un esperimento che ho fatto

Una prova di questo l’ho avuta facendo, a mia volta, una specie di coltura sull’enciclica che si può vedere qui.

L’esperimento.

Nei giorni prima dell’uscita ho seminato l’enciclica: ho chiesto a due intelligenze artificiali di scriverla a partire dalle sole tracce pubbliche di Leone XIV, e ho congelato il raccolto con una data, prima che venisse pubblicato il testo vero.⁴

Non volevo “indovinare” il Papa. Volevo capire quanto fosse prevedibile il campo discorsivo dentro cui una voce, anche una voce spirituale e istituzionale, è chiamata oggi a parlare.

Le macchine che ho coinvolto, come si può vedere nel sito, hanno anticipato quasi tutto il campo, la continuità con la Rerum novarum, il lavoro nascosto dietro gli algoritmi, il controllo umano sulle armi, il colonialismo dei dati, l’opacità dei sistemi. Hanno colto il terreno e le sue colture ma hanno mancato il raccolto vero, ossia i racconti di Babele e Neemia in apertura dell’enciclica, la citazione di Guardini, la civiltà dell’amore e il Magnificat in chiusura.

È la conferma più limpida della tesi: di una voce si coltiva il campo, e il campo si lascia prevedere, ma la forma che prende crescendo resta sua.

Insomma, abbiamo seminato, su architetture costruite da noi, qualcosa che cresce secondo logiche che non vediamo e da cui stiamo già venendo modificati.
Chi coltiva non controlla mai del tutto il raccolto, e la domanda vera riguarda che tipo di contadini saremo, e se di questa coltura che ci ricambia sapremo lasciarci trasformare bene. Resta, sotto a tutto, l’altro significato di colere, ossia onorare. Coltivare è anche rendere onore a ciò di cui ci si prende cura, e forse la domanda ultima che l’enciclica ci consegna senza porla è quale culto stiamo, senza accorgercene, imparando.
E quale dio stiamo pregando.

1. E non è un termine isolato: il verbo coltivare torna dodici volte in Magnifica humanitas, fino a intitolare una sezione, e lega l’intelligenza artificiale all’opera di Dio, alla cura della terra, alla ricerca della verità e alla vita comune.

2. Magnifica humanitas porta infatti la data del 15 maggio e, al paragrafo 3, ricorda che cade nel centotrentacinquesimo anniversario della Rerum novarum, firmata da Leone XIII il 15 maggio del 1891. La Dottrina sociale è il modo in cui la Chiesa si obbliga a sporcarsi le mani con il presente, a pronunciarsi non sull’aldilà ma sull’economia, sul lavoro, sulla proprietà, sul potere, sulle strutture concrete che fanno la vita delle persone giusta o ingiusta. È nata quando un Papa ha guardato le fabbriche dell’Ottocento e ha detto: questo riguarda anche noi. E ogni volta che il mondo cambia abbastanza, un altro Papa è chiamato a rifarlo. È questo che Leone XIV sta facendo.

3. Da colere viene cultura, e dalla stessa radice viene culto. Coltivare un campo, onorare un dio e far crescere un popolo erano, per i latini, gesti imparentati, tutti e tre un prendersi cura di qualcosa che ci oltrepassa e che non si fabbrica a comando. Cultura è il nome che diamo a ciò che gli uomini fanno crescere senza governarlo per intero, le lingue, i riti, le istituzioni, le forme di vita. Nessuno ha costruito l’italiano, nessuno possiede le regole del lutto, nessuno decide da solo che cosa diventerà una città. Le coltiviamo, e nel farlo ne veniamo trasformati. Se l’intelligenza artificiale è coltivata, si abita come si abita una lingua. Anzitutto, insieme.

4. Il lavoro è stato piuttosto lungo. CoWork di Anthropic e Codex di OpenAI hanno lavorato separatamente, all’oscuro l’una dell’altra, su un’unica consegna, scrivere l’enciclica che Leone XIV potrebbe firmare senza inventare nulla, appoggiandosi solo a fonti reali e verificabili. Ne sono uscite due bozze che divergono nella voce, nell’ordine dei capitoli, in ciò che ciascuna ha messo al centro, e già quella divergenza era un primo risultato, perché le fonti custodiscono più encicliche possibili, e sceglierne una è già un gesto. Da lì l’esperimento è diventato più interessante del testo. Ho costruito un protocollo di valutazione cieca e ho chiesto a due nuove istanze, una per sistema, di giudicare le bozze senza sapere chi le avesse scritte; prima però dovevano esporsi, mettere nero su bianco cinque predizioni verificabili su ciò che l’enciclica vera avrebbe contenuto. Poi ho fatto dialogare i due sistemi tra loro, e da quel negoziato per iscritto sono nate una struttura comune e una terza enciclica, scritta a quattro mani sotto la mia regia, cresciuta in tre stesure attraverso la critica reciproca. Trovate tutto sul sito.