Ci sono parole che la Chiesa pronuncia da secoli e che all’improvviso tornano nuove perché cambia il mondo a cui sono rivolte. Il 30 ottobre Leone XIV ha ricevuto nella Sala del Concistoro i partecipanti al convegno sul futuro dell’intelligenza artificiale, promosso dalla Pontificia Accademia per la Vita insieme al Future of Life Institute. Ha detto loro una cosa semplice e radicale: la decisione di togliere la vita a un essere umano non potrà mai essere affidata a una macchina. Le scelte che riguardano la vita, la libertà e l’uso della forza devono restare sotto un controllo umano effettivo, informato e responsabile.

Il Papa ha definito l’intelligenza artificiale uno strumento affascinante e tremendo al tempo stesso, e ha usato un’espressione che resterà: l’intelligenza artificiale deve essere disarmata. A novembre gli Stati si ritroveranno a Ginevra per discutere delle armi autonome letali, sistemi capaci di individuare e colpire un bersaglio senza che un uomo prema il grilletto. Il Pontefice li ha incoraggiati a fare passi concreti verso la loro messa al bando, e ha richiamato l’intervento del suo predecessore al G7 del giugno 2024.

Ma il passaggio più profondo riguarda un tema meno visibile e forse più insidioso. Circola in alcuni ambienti giuridici e tecnologici la proposta di riconoscere ai sistemi di intelligenza artificiale una forma di personalità giuridica. Leone XIV ha messo in guardia proprio da questo: un simile approccio rischia di oscurare la responsabilità umana e di lasciare chi subisce un danno di fronte a un’entità senza volto. È un’osservazione che va al cuore del problema. Dietro ogni algoritmo ci sono persone che lo hanno progettato, imprese che lo hanno venduto, istituzioni che lo hanno adottato. Attribuire alla macchina una soggettività significa liberare tutti costoro dal peso delle conseguenze.

Da qui la richiesta di istituzioni internazionali capaci di tradurre i principi etici in strumenti concreti: criteri comuni, verifiche indipendenti, responsabilità individuabili, la possibilità per chi è danneggiato di ottenere rimedio. È il linguaggio del diritto più che quello della predicazione.

Non è un caso che questo Papa abbia scelto il suo nome richiamandosi a chi, alla fine dell’Ottocento, affrontò la questione sociale nata dalla prima rivoluzione industriale. Allora il problema era il lavoratore ridotto a ingranaggio della fabbrica; oggi è la persona ridotta a dato, profilo, bersaglio. In entrambi i casi la questione è la stessa: chi decide, e in nome di che cosa.

C’è una distinzione antica che queste parole rimettono in circolo, quella tra calcolare e giudicare. Una macchina può elaborare probabilità con una velocità che nessun essere umano raggiungerà mai. Il giudizio però implica qualcosa di diverso: la capacità di rispondere di ciò che si fa, di riconoscere nell’altro un volto e non una variabile. Molte tradizioni, non solo quella cristiana, hanno pensato la responsabilità come un legame che precede ogni regola, l’essere chiamati a rispondere davanti a qualcuno. È esattamente ciò che una macchina non può fare.

Il rischio, ha ricordato il Papa in altre occasioni, è abituarsi a delegare agli algoritmi decisioni che spettano solo alla coscienza. L’abitudine è il modo in cui le cose più gravi diventano normali. Dire oggi un no netto, prima che la delega diventi abitudine, è forse il contributo più utile che si possa dare.