Pericolo I.A

«Jorge Luis Borges scrisse una volta che vivere in un’epoca di grandi pericoli e promesse significa sperimentare sia la tragedia che la commedia, con “l’imminenza di una rivelazione” nella comprensione di noi stessi e del mondo- sottolinea Chomsky-. Oggi i nostri presunti progressi rivoluzionari nell’intelligenza artificiale sono in effetti motivo di preoccupazione e di ottimismo. Ottimismo perché l’intelligenza è il mezzo con cui risolviamo i problemi. Preoccupazione perché temiamo che il filone più popolare e alla moda dell’Intelligenza Artificiale. – l’apprendimento automatico – degradi la nostra scienza e svilisca la nostra etica incorporando nella nostra tecnologia una concezione fondamentalmente errata del linguaggio e della conoscenza». Prosegue ChomskY: «ChatGPT di OpenAI, Bard di Google e Sydney di Microsoft sono meraviglie dell’apprendimento automatico. In parole povere, prendono enormi quantità di dati, ne cercano gli schemi e diventano sempre più abili nel generare risultati statisticamente probabili, come un linguaggio e un pensiero apparentemente simili a quelli umani. Questi programmi sono stati acclamati come i primi barlumi all’orizzonte dell’intelligenza artificiale generale, quel momento a lungo profetizzato in cui le menti meccaniche supereranno i cervelli umani non solo quantitativamente in termini di velocità di elaborazione e dimensioni della memoria, ma anche qualitativamente in termini di intuizione intellettuale, creatività artistica e ogni altra facoltà distintivamente umana». Sottolinea il filosofo del linguaggio: «Quel giorno potrebbe arrivare, ma la sua alba non è ancora spuntata, contrariamente a quanto si legge nei titoli iperbolici e ai calcoli di investimenti avventati. La rivelazione borgesiana della comprensione non si è verificata e non si verificherà – e, a nostro avviso, non può verificarsi – se programmi di apprendimento automatico come ChatGPT continueranno a dominare il campo dell’I.A. Per quanto questi programmi possano essere utili in alcuni ambiti ristretti (possono essere utili nella programmazione di computer, per esempio, o nel suggerire rime per versi leggeri), sappiamo dalla scienza della linguistica e dalla filosofia della conoscenza che differiscono profondamente dal modo in cui gli esseri umani ragionano e usano il linguaggio. Queste differenze pongono limitazioni significative a ciò che questi programmi possono fare, codificandoli con difetti ineliminabili».

«È comico e tragico allo stesso tempo, come avrebbe potuto notare Borges, che tanto denaro e tanta attenzione si concentrino su una cosa così piccola – una cosa così banale se confrontata con la mente umana, che a forza di usare il linguaggio, secondo le parole di Wilhelm von Humboldt, può fare “un uso infinito di mezzi finiti”, creando idee e teorie di portata universale», osserva Chomsky. Il filosofo Usa fa un esempio. «Supponiamo di avere in mano una mela. Ora lasciate andare la mela. Osservate il risultato e dite: “La mela cade”. Questa è una descrizione. Una previsione potrebbe essere l’affermazione “La mela cadrà se apro la mano”. Entrambe hanno valore e possono essere corrette. Ma una spiegazione è qualcosa di più: Include non solo descrizioni e previsioni, ma anche congetture controfattuali come “Qualsiasi oggetto del genere cadrebbe”, più la clausola aggiuntiva “a causa della forza di gravità” o “a causa della curvatura dello spazio-tempo” o altro. Questa è una spiegazione causale: “La mela non sarebbe caduta se non fosse stato per la forza di gravità”. Questo è pensare- afferma Chomsky-.- Il punto cruciale dell’apprendimento automatico è la descrizione e la previsione; non prevede meccanismi causali o leggi fisiche. Naturalmente, qualsiasi spiegazione di tipo umano non è necessariamente corretta; siamo fallibili. Ma questo fa parte di ciò che significa pensare: per essere giusti, deve essere possibile sbagliare. L’intelligenza non consiste solo in congetture creative, ma anche in critiche creative. Il pensiero di tipo umano si basa su possibili spiegazioni e sulla correzione degli errori, un processo che limita gradualmente le possibilità che possono essere considerate razionalmente. Come disse Sherlock Holmes al dottor Watson: “Quando hai eliminato l’impossibile, ciò che rimane, per quanto improbabile, deve essere la verità”».