La tecnologia non ha una morale intrinseca ma rispecchia i nostri bisogni e impulsi, può essere utile o nociva. Perciò è necessario aumentare la conoscenza dei cittadini su come viene costruita, su cosa c’è dietro, e la consapevolezza di chi la progetta e la sviluppa sulle conseguenze che potrebbe avere. Infine, serve continuare a nutrire con le varie arti, inclusa la letteratura, la nostra umanità, il nostro essere misericordiosi. Sono alcune conclusioni alle quali sono giunti, dialogando, Joshua Cohen, scrittore premio Pulitzer che ha affrontato le ombre della civiltà digitale, e Giorgio Metta , direttore scientifico dell’Istituto italiano di tecnologia (Iit) di Genova, centro d’avanguardia internazionale in ambiti come la robotica e l’intelligenza artificiale. Alla presenza de «la Lettura», si sono incontrati durante il recente tour di Cohen in Italia per presentare l’ultimo romanzo I Netanyahu. Occasione specifica: Fahrenhei.iit, concorso per racconti di tema scientifico lanciato dall’Istituto di tecnologia, che ha appunto invitato come «consulente» d’eccezione l’autore americano.

Diverse la formazione, la visione e l’esperienza dei due interlocutori, che però hanno in comune la sete di conoscenza e confronto e una consolidata attitudine a superare i limiti tra le discipline. Cohen, che in Italia è edito da Codice, nel 2015 pubblica Il libro dei numeri. Definito l’«Ulisse dell’età digitale », il romanzo — un’opera-mondo dall’incipit inequivocabile e programmatico: «Se state leggendo questa storia su uno schermo, andate a fanculo» — si muove dagli albori di internet all’era dei social e della sorveglianza. Già nel 2012 inoltre era uscito Quattro nuovi messaggi, raccolta di racconti sulle contraddizioni delle nostre vite nell’era del web, arrivato in italiano l’anno scorso. Nel frattempo Metta lavora a perfezionare iCub, robot umanoide nato nel 2004 il cui nome in inglese significa «cucciolo» e del quale l’ingegnere e ricercatore dell’IIt, dal 2016 al 2019 vicedirettore scientifico e poi direttore, può considerarsi il «papà». Diffuso come piattaforma open source, non protetta da copyright, iCub ha raggiunto finora oltre quaranta laboratori di ricerca nel mondo e contribuisce allo sviluppo di robot che saranno destinati a centri commerciali, aeroporti, ospedali. La conversazione tra Cohen e Metta si svolge a Genova in una stanza dell’Istituto dove, non solo al computer ma anche con cacciavite e bulloni, si perfezionano iCub e altri «colleghi».

Perché lanciare da qui un concorso letterario?

GIORGIO METTA — Lo abbiamo aperto a chiunque voglia partecipare, con l’unico vincolo di restare negli ambiti di cui ci occupiamo all’Iit: oltre alla robotica e all’intelligenza artificiale, anche le neuroscienze, la genetica, i nanomateriali. L’idea ci è venuta perché i nostri stessi ricercatori, oltre ovviamente a scrivere articoli scientifici, amano spesso cimentarsi con storie di fiction, soprattutto di fantascienza: un modo anche questo per indagare le possibili evoluzioni del futuro. Nel nostro Istituto, inoltre, consideriamo fondamentale dialogare con gli umanisti. Ci occupiamo di scienza, e delle sue applicazioni, con l’idea che il fine ultimo debba sempre essere il bene dell’umanità: per questo ci chiediamo costantemente se nei vari sviluppi ci siano eventuali rischi, e nel farlo ci è utile confrontarci con figure di altri ambiti, ad esempio i filosofi. Anche entrare in contatto con la letteratura è una possibilità: i romanzi riescono a portarci dentro futuri alternativi, a mostrarci i pericoli ma anche a ispirarci nell’ideare qualcosa di diverso e migliore. Già oggi ci sono numerose tecnologie che possono aiutarci, basti pensare agli esoscheletri per la riabilitazione o alle protesi di arti robotici, ma anche all’applicazione dell’intelligenza artificiale in ambito sanitario, alla realizzazione di dispostivi sempre più accurati per la diagnosi e il trattamento di patologie con terapie personalizzate…

JOSHUA COHEN — Sono diffidente nei confronti del pensiero dicotomico, della separazione tra cultura umanistica e scientifica. Basta guardare all’architettura, alla pittura o alla musica per capire quanti aspetti tecnologici accolgano in sé. Inoltre, se dovessi descrivere lo spettro dentro cui oggi ci troviamo tutti, non parlerei tanto di una dialettica tra umanesimo e scienza quanto tra l’essere un maker, un creatore di qualcosa, e l’essere uno user, un utilizzatore. Tutti noi siamo creatori di qualche cosa e utilizzatori di molte altre. La differenza è che il fare implica maggiore consapevolezza del mondo in cui agisci, dentro cui crei, mentre l’uso può avvenire anche restando nell’ignoranza. Non solo, c’è un’altra coppia dialettica che si può affiancare a questa. Leggevo qualche tempo fa un libro sull’età romana e la relazione cliente-patrono, e mi sono detto: «È così che funzionano molte aziende di internet». Otteniamo i vantaggi di usarne i servizi, ma così facendo forniamo loro dati che ci intrappolano sempre più nei loro sistemi.

È possibile un cambiamento di rotta o almeno correggere alcuni effetti negativi della tecnologia?

JOSHUA COHEN — È un equilibrio in continua evoluzione che ogni governo, ogni generazione, ogni persona deve creare da sé. La mia esperienza nel mondo mi indurrebbe a pensare che se uno arriva dicendo che può correggere gli effetti negativi della tecnologia in realtà proporrà solo un’altra tecnologia che, a sua volta, può avere effetti negativi… La scienza e il progresso avanzano più rapidamente persino del nostro vocabolario, e infatti da quegli ambiti arrivano molte parole nuove. È anche difficile pensare che chi lavora in un posto come l’Iit possa non imbattersi in conseguenze inattese, sia positive sia negative. Sarebbe una visione utopistica, impossibile se lavori spingendoti ai confini della conoscenza.

GIORGIO METTA — Significherebbe cambiare sostanzialmente il modo in cui, come mostrano anche le ricerche scientifiche, l’essere umano da sempre pensa, interagisce, si è evoluto. Certo, poi è vero, si può sempre cercare, e di fatto si cercano, tecnologie da sovrapporre a quelle preesistenti per limitare certi effetti negativi. Ma penso che una strada ancora più efficace sia aumentare preventivamente il livello di consapevolezza di chi sviluppa la tecnologia in relazione alle sue eventuali conseguenze. Tuttavia, su scala globale, è ancora difficile.

JOSHUA COHEN — Tutto ciò che facciamo, a sua volta ci fa. Ciò che produciamo modella la prossima generazione che creerà qualcos’altro. È un processo iterativo, e credo che oggi lo sviluppo tecnologico stia plasmando le persone. In questo scorgo un parallelismo con la letteratura: non posso davvero scrivere un libro senza avere interiorizzato le opere venute prima. Proprio nel modo in cui la mia lettura diventa la mia scrittura, vedo come funziona l’innovazione, il modo in cui crea ciò che viene dopo.

Sorveglianza, monopoli digitali… sarebbero utili interventi legislativi?

JOSHUA COHEN — Non so se preferisco internet sotto il controllo di Facebook e Amazon oppure della Cia e della National Security Agency. La verità è che è controllata sia dagli uni sia dagli altri e da altri ancora. Ho 42 anni e l’internet con cui sono cresciuto era un luogo in cui un utente medio poteva avere un certo grado di anonimato o piuttosto una molteplicità di identità. Tutti gli sforzi di governi e privati invece sono stati volti a identificare la nostra presenza online. L’idea che una tecnologia che dovrebbe fare circolare le informazioni liberamente sia anche una macchina della memoria universale, che ti collegherà per il resto della vita a un post scritto anni fa o a una foto che ti è stata scattata, è la definizione stessa di totalitarismo. È l’incapacità di essere perdonati, o di cambiare. E credo non ci siano istituzioni, aziende private, leggi o «toppe» tecnologiche in grado di insegnare alle persone a vivere con misericordia. Spero sia uno dei compiti delle arti. La libertà che ti è data dall’indossare diverse maschere, ad esempio, è un aspetto della letteratura che mi ha attratto subito.

GIORGIO METTA — È molto bello questo pensiero, sono d’accordo. Dobbiamo imparare noi stessi a essere misericordiosi. Ci si può sforzare di imporre regole, ma non funzioneranno, perché la tecnologia consente la comunicazione istantanea e l’archiviazione infinita, e quell’informazione non scomparirà. Io stesso nutro rimpianti per un articolo che ho scritto quando ero un giovane ricercatore ma che purtroppo è ancora rintracciabile, non si può cancellare. Penso invece possa essere utile un’educazione alla tecnologia. Tornando a quell’ipotetico continuum tra fare e usare, credo bisognerebbe concentrarsi di più sul fare: non solo nel senso di mettersi a creare in prima persona ma anche in quello di stimolare la comprensione di come e perché la tecnologia viene sviluppata. Conoscendo questo, si può generare maggiore consapevolezza quando la si usa.

JOSHUA COHEN — Sì, è importante combattere l’idea che uno si accontenti di impiegare gratuitamente gli strumenti senza chiedersi cosa ci sia dietro. P enso sia anche utile chiarire che la tecnologia è intrinsecamente amorale. Siamo noi che le attribuiamo colpe, che la usiamo da parafulmine, per assolverci dalle nostre responsabilità. Succede anche in politica. Dall’Italia ad esempio capita che ora mi chiedano cosa pensi di Giorgia Meloni. Ma io che sono passato già per Trump negli Stati Uniti, Netanyahu in Israele, non penso in termini di singole figure: credo che dietro di loro ci siano le tantissime persone che le votano e di cui sono espressione. È come con la tecnologia, che risponde ai nostri bisogni e desideri ed è guidata dai nostri investimenti. In entrambi i casi, il problema siamo noi.

GIORGIO METTA — Se vogliamo migliorare la situazione, dobbiamo concentrarci sull’insegnamento. Già prima suggerivo la necessità di una maggiore consapevolezza di che cosa ci sia dietro il fare la tecnologia. Voglio aggiungere che dovremmo concentraci sul trasmettere la conoscenza del complesso sistema della scienza già quando i bambini sono piccoli, a partire dai sette anni circa. È molto difficile intervenire dopo, mentre iniziare presto consentirebbe di tirare su una generazione diversa, che si spera migliori il nostro senso dell’essere umani e sviluppi pure in ambito scientifico-tecnologico un maggiore senso critico.

Potrebbe essere utile anche investire di più sulla divulgazione?

GIORGIO METTA — Sicuramente sì. Ad esempio nei prossimi anni l’intelligenza artificiale sarà centrale, ma la società la conosce ancora poco. Al contempo, va tenuto presente che chi viene ad ascoltarti sta già cercando la scienza. È come convertire chi già vuole convertirsi, mentre gli altri non li raggiungi comunque. Ecco perché propongo di puntare sull’insegnamento: serve far conoscere come funziona il metodo scientifico a tutti fin da piccoli. Nei mesi della pandemia, ad esempio, la difficoltà non è stata tanto spiegare ai cittadini il modello di diffusione del nuovo coronavirus. Il problema è stato che gli esperti dicevano in tv cose diverse e il pubblico non aveva strumenti per rendersi conto che era tutto sommato normale. Piuttosto, gli spettatori reagivano dicendo: «Nemmeno gli scienziati sanno cosa succede!». Tutto ciò è accaduto perché non avevano mai interiorizzato in precedenza la modalità con cui avanza la scienza: con ipotesi che possono essere via via corrette e messe in discussione. Dunque, prima di qualunque teoria, è questo metodo che servirebbe insegnare: una sorta di metascienza.

JOSHUA COHEN — Ci sono anche persone che sembrano volere restare ignoranti, e questo può nascere dalla rabbia. Nei mesi dell’emergenza Covid si è spiegato come funzionava la malattia e come combatterla, ma non è stato fatto nulla per indagare davvero le sue origini. Vivremo in un mondo dove accadrà di nuovo ma non avremo capito le cause profonde. Tutto ciò fa infuriare. I cittadini si ritraggono e assumono atteggiamenti antiscientifici. Questa è la vera tragedia: il fatto che non vogliano sapere li allontana dalla scienza più di ogni altra cosa.

GIORGIO METTA — Gestire il mondo è estremamente difficile anche con la scienza alle spalle, perché c’è sempre un tasso di aleatorietà. Come scienziati si lavora per aumentare la conoscenza, ma ci sono comunque limiti da accettare. Detto questo, è innegabile che non ci sia stata una buona gestione della pandemia a livello globale. Ci sono stati problemi soprattutto all’inizio perché, è vero che il Covid è stato improvviso, ma c’erano segnali o comunque esperienze passate che sembravano essere state dimenticate. Inoltre in alcuni passaggi, almeno qui in Europa, non c’è stata unità, con singoli Paesi che correvano ad accaparrarsi le mascherine o i vaccini prima degli altri. E anche oggi, con la guerra in Ucraina, le divisioni europee sembrano riproporsi.

Che ruolo può avere la letteratura? Che caratteristiche dovrebbe avere una storia che racconti la scienza, come nel caso del concorso Fahrenhei.iit?

JOSHUA COHEN — Sono cresciuto leggendo testi in cui ci si fidava più di oggi della capacità del lettore di fare salti associativi. Ora — ed è un aspetto interessante e insieme preoccupante della democrazia multiculturale e pluralistica — viviamo un’epoca in cui ci sono sempre meno contesti culturali comuni. Un effetto è che è più difficile riconoscere analogie, allegorie, metafore… A questo si aggiunge che la letteratura nata nell’era del computer si illude di essere descrittiva e non allusiva, come se il linguaggio fosse una macchina fotografica o un registratore, ma non lo è. Le proprietà associative e metonimiche del linguaggio, la sua capacità di creare metafore, sono uno dei grandi tesori della nostra civiltà. L’incapacità di coglierle, una tragedia. Quindi, incoraggerei in primo luogo l’allusività.

GIORGIO METTA — La metafora, d’altra parte, serve anche alla scienza. Pure nel nostro ambito devi essere in grado di fare salti o elaborazioni formali per cui è necessaria un’intuizione su dove andare. Il resto può essere fatto da un computer, ma tu devi sapere il punto a cui arrivare. Inoltre, quando vuoi collegare un complesso calcolo matematico a un altro, lì hai davvero bisogno delle metafore, di un pensiero libero, flessibile e molto aperto.

Un pensiero astratto che all’Iit si coniuga con un’evidente fisicità, con il cacciavite accanto ai computer…

GIORGIO METTA — Rispetto ad altri centri in cui si lavora sull’intelligenza artificiale o alle aziende digitali che si concentrano solo sui dati, qui la differenza principale è che ci occupiamo di robotica. Gli input con cui quotidianamente ci confrontiamo ci arrivano da un corpo che si muove in un ambiente dove nulla può essere previsto. Vale anche per chi ha a che fare con le auto a guida autonoma, o con qualsiasi altra tecnologia che deve interagire con il mondo reale.

Mentre si lavora al metaverso, il ritorno in Europa di una guerra estremamente concreta e cruenta, con i carri armati, sembra riportarci indietro al secolo scorso.

JOSHUA COHEN — Il conflitto in Ucraina è per molti aspetti scioccante, ma mantenendo il focus di questa conversazione, colpisce quanto sia paleotecnologico. Non è una cyber-guerra. E questo conferma quanto dicevamo prima: parlare dell’impatto negativo del digitale è in fondo un parafulmine per gli impulsi umani. Qui non assistiamo a una guerra digitale, eppure tutti i nostri peggiori appetiti sono in campo.

GIORGIO METTA — Una cyber-guerra sarebbe comunque drammatica ma, detto questo, è vero che da quando l’Ucraina è stata invasa, lo scorso 24 febbraio, sembriamo tornati indietro agli anni Quaranta del Novecento. E si vede chiaramente che, anche se non disponi della tecnologia più avanzata, puoi comunque uccidere barbaramente.

La civiltà digitale si era illusa di vivere in un mondo più aperto e in progressivo miglioramento?

JOSHUA COHEN — Internet funziona un po’ come il megafono di cui parlava George Saunders : amplifica tutto ciò che lo attraversa (Il megafono spento, 2007, edito in Italia da minimum fax nel 2009, ndr). Se imposti l’algoritmo per guardare un mondo bello, lo avrai; se cerchi lo schifo della guerra, lo vedrai. Non bisogna mai dimenticare che il software sta rispondendo a quello che vogliamo noi.

GIORGIO METTA — Con il digitale sembravamo avere ottenuto un’apparente perfezione, zero-uno, zero-uno, tutto ordinato, sotto controllo, quasi matematico. E invece ecco la pandemia, i cadaveri, le bombe… In un certo senso, siamo stati protetti per un po’, almeno in Europa, dal vedere tutto questo, ma ora no. L’Ucraina la sentiamo vicina e la pandemia è stata ed è vicinissima: l’abbiamo vissuta sulla nostra pelle nel momento di maggiore emergenza e non ne siamo ancora completamente usciti.

JOSHUA COHEN — Voglio aggiungere: come stiamo vedendo molti di quei cadaveri in Ucraina? Li osserviamo anche attraverso sofisticate tecnologie della Cia, strumenti avanzatissimi che ci mostrano da vicino le vittime di una carneficina non tecnologizzata da XX secolo. Inoltre, non dobbiamo dimenticare ciò che gli Stati Uniti hanno perpetrato nel ventennio trascorso dall’11 settembre 2001, quando trovarono una scusa per fare pubblicamente ciò che già facevano segretamente. Vengo da un Paese che è stato molto abile nell’usare la tecnologia in guerra, cercando di tenere fuori l’elemento umano, uccidendo i bambini a grande distanza, da molto in alto. Credo che, in fondo, ci sia anche un tema di distribuzione ineguale del futuro. E questa è una grande linea di demarcazione.