La tecnologia non è «una forza antagonista rispetto alla persona» né «di per sé un male». Tuttavia, «non è neutrale, perché assume il volto di chi la pensa, la finanzia, la regola, la usa». La persona non può essere ridotta a risorsa «da sfruttare» e la sua dignità non può essere misurata con il metro di «ciò che realizza o produce». L’umanità conta più del profitto.

Papa Leone XIV ha rotto la prassi tradizionale intervenendo personalmente alla conferenza di presentazione della sua prima lettera enciclica "Magnifica Humanitas" sulla custodia della persona umana nel tempo dell’intelligenza artificiale.

Nell’Aula Nuova del Sinodo nel Palazzo Apostolico, in Vaticano, seduto in prima fila, c’è anche Christopher Olah, 34 anni, canadese, uno dei fondatori del colosso dell’AI, Anthropic.

L’Enciclica

Nei 5 capitoli della sua prima enciclica Leone XIV affronta i temi più cari alla dottrina sociale della Chiesa. E mette in guardia dal «paradigma tecnocratico» già denunciato da Papa Francesco: non tutto può ridursi a mero calcolo economico. Ed il Creato non è il laboratorio personale di chi per fare profitto distrugge l’ambiente e le risorse naturali. Cambia la natura dei conflitti. Il mondo deve fare i conti con gli effetti delle guerre cognitive ed economiche. Papa Prevost chiede il «disarmo» delle tecnologie affinché possano essere «messe al servizio» del «bene comune». Lancia poi un monito sui rischi di deriva innescati dall’uso indiscriminato dell’IA nell’industria bellica.

Regole e etica dell’IA

L’Intelligenza artificiale non può autogovernarsi e non si può consentire che a stabilire le regole siano in pochi. C’è bisogno di un codice etico sottoposto a criteri di giustizia sociale condivisa, avverte Leone XIV, perché «non serve un’IA più morale se questa morale è decisa da pochi».

Disarmare l’IA e sottrarla alla logica competitiva

Il Pontefice avverte che è necessario «disarmare l’IA per sottrarla alla logica della competizione militare, economica e cognitiva». Bisogna intervenire per mettere un freno alla «equivalenza tra potenza tecnica e diritto di governare». E per «sottrarla ai monopoli e impedirle di dominare l’umano». Bisogna farlo in tempi brevi perché, scrive Leone XIV, l’IA «è già ambiente in cui siamo immersi e potere con cui dobbiamo fare i conti».

Il lavoro e la dignità della persona

«I nuovi modi di lavorare non sono necessariamente migliori» scrive il Pontefice, dal momento che la tecnologia «può dequalificare i lavoratori, relegarli a funzioni marginali», sottoporli a sorveglianza automatizzata. Occorre dunque realizzare sistemi centrati sulla persona e non solo sulla prestazione. La tecnologia deve preservare il lavoro umano non giustificare o essere causa di perdita di occupazione. La trasformazione digitale deve essere governata e non subita. E in tale direzione le imprese hanno una grande responsabilità.

Lo sviluppo non si misura solo in termini di Pil

Per il Pontefice la finanza per la finanza è diversa dalla finanza per lo sviluppo. Occorre inoltre «superare il Pil come parametro del grado di sviluppo di un Paese», puntando invece sulla dignità del lavoro, sulla prosperità condivisa, inclusiva e sostenibile, sulla riduzione delle disuguaglianze e sulla salvaguardia dell’ambiente.

Difendersi dal potere degli algoritmi

Papa Leone XIV scrive che occorre fronteggiare il rischio del controllo sociale derivante dalla raccolta massiva di dati e dall’uso di sistemi algoritmici. Profilare, prevedere e orientare i comportamenti è «un potere nuovo» che rischia di discriminare i più deboli. Dura la critica rivolta alla «architettura della visibilità» che sfrutta le fragilità degli utenti del web e delle piattaforme social.

Contro la logica di profitto dei nuovi potenti

Il messaggio del Papa è forte e non lascia spazi ad interpretazioni di sorta. «Abbiamo bisogno che una parte sempre maggiore del mondo - comunità religiose, società civile, studiosi, governi - faccia ciò che Sua Santità ha fatto qui», ha detto Christopher Olah intervenendo al termine della presentazione dell’Enciclica. «Dobbiamo osservare attentamente e contribuire a orientare gli eventi in una direzione migliore. Abbiamo bisogno di critici informati che segnalino ai laboratori quando stanno fallendo. Abbiamo bisogno di voci morali che gli incentivi non possano piegare».