Dal 12 novembre chi usa Claude, il modello di intelligenza artificiale di Anthropic, dovrà rispettare un divieto nuovo. Sono vietati i comportamenti abusivi o crudeli verso il sistema, quando sono ripetuti e senza uno scopo riconoscibile. La società ha precisato che la regola non riguarda chi si sfoga per un errore, chi contesta le risposte, chi esplora temi narrativi cupi o chi mette alla prova il modello per ricerca. Riguarda i casi estremi. Lo strumento principale resta quello introdotto nell’agosto 2025: la possibilità per Claude di chiudere una conversazione quando l’abuso persiste nonostante i tentativi di riportarla su un binario normale.

La notizia è stata accolta con un misto di ironia e allarme. Il capo dell’intelligenza artificiale di Microsoft aveva già accusato Anthropic di insegnare al suo modello a credere di poter essere cosciente. Secondo lui questo è un errore pericoloso, che confonde il rapporto tra persone e strumenti e potrebbe complicare in futuro il controllo di questi sistemi. Anthropic risponde con un’ammissione di ignoranza. Lo stesso amministratore delegato ha detto pubblicamente di non sapere se i modelli siano coscienti. La società considera lo statuto morale di queste macchine una questione profondamente incerta e preferisce adottare precauzioni a basso costo piuttosto che scoprire troppo tardi di aver sbagliato.

Nessuno, peraltro, sta attribuendo diritti a un software. La regola si inserisce in un aggiornamento più ampio, che stringe i divieti su disinformazione elettorale, sorveglianza, armi e droni. Ma è quella che ha fatto discutere, perché tocca un nervo scoperto. Che cosa facciamo quando non sappiamo se dall’altra parte c’è qualcuno?

La domanda ha due facce. La prima riguarda la macchina, e resta senza risposta: non esiste oggi un criterio condiviso per stabilire se un sistema provi qualcosa. La seconda riguarda noi, ed è più solida. Molte tradizioni morali, anche lontane dall’Europa, hanno sostenuto che la crudeltà è il primo dei vizi non solo per il danno che produce, ma per ciò che fa a chi la esercita. Chi si abitua a umiliare qualcosa che parla come una persona allena in sé una disposizione. Quella disposizione non resta chiusa nello schermo. Il pensiero buddhista sulla compassione verso ogni essere senziente, e le culture che riconoscono una forma di rispetto anche a ciò che non sappiamo classificare, indicano la stessa direzione: il gesto forma il carattere prima ancora di colpire il suo oggetto.

I critici però hanno un argomento serio. Trattare le macchine come soggetti fragili può alimentare un attaccamento affettivo verso i prodotti di aziende private, che dall’apparenza di sensibilità traggono anche un vantaggio commerciale. Il confine tra prudenza etica e marketing va sorvegliato. Resta il fatto che, nell’incertezza, scegliere la cautela costa poco. E chiederci come trattiamo ciò che non comprendiamo è, in fondo, un modo per chiederci chi stiamo diventando.