Mentre Guillermo Federico Ibarrola stava aspettando un treno nella metropolitana di Buenos Aires è stato prelevato da due poliziotti, fermato e trattenuto per sei giorni. Ibarrola non aveva commesso alcun crimine, né ne era stato testimone. Piuttosto, Ibarrola è stato la sfortunata vittima di un errore tecnico nel nuovo sistema di riconoscimento facciale basato sull’intelligenza artificiale della città, che è stato installato nel 2019 e che ora copre il 75% della capitale argentina.

Alcuni anni dopo lo sviluppo di tali sistemi biometrici la maggior parte delle capitali europee non ha seguito l’esempio dell’Argentina. Ma ora le cose potrebbero cambiare. Mentre la Francia scende in piazza in massa per protestare contro l’aumento dell’età pensionabile, l’Assemblea nazionale ha tranquillamente accolto un disegno di legge relativo alle imminenti Olimpiadi del 2024 che secondo gli esperti di privacy aumenterà drasticamente le capacità di polizia e sorveglianza dello stato.

La cosiddetta legge sulle Olimpiadi e le Paralimpiadi è stata approvata rapidamente dal Parlamento dopo essere stata proposta dal partito di Emmanuel Macron lo scorso dicembre. Se adottata, aprirà la strada all’installazione di un controverso, anche se «sperimentale» secondo i suoi sostenitori, sistema di classificazione biometrica basato sull’intelligenza artificiale volto a rilevare «eventi predeterminati», come movimenti di folla, attacchi terroristici o atti di violenza. Insomma, il disegno di legge prende il nome dalle Olimpiadi, ma va molto oltre.

«Con questo disegno di legge il governo intende aumentare l’accettabilità sociale in Francia della sorveglianza generalizzata», spiega a Jacobin Elisa Martin, deputata della coalizione di sinistra Nuova Unione popolare ecologica e sociale (Nupes).

Un sistema «sperimentale»

Al centro della polemica che circonda la proposta di legge su Olimpiadi e Paralimpiadi c’è l’articolo 7. Questo articolo afferma che «le immagini raccolte tramite sistemi di videoprotezione», comprese le telecamere di sorveglianza intorno a stadi, metropolitane e altre aree, «possono essere soggette a trattamento, anche tramite un sistema di intelligenza artificiale».

Il sistema proposto basato sull’intelligenza artificiale è «sperimentale», scrivono gli autori, ed era inizialmente previsto per durare fino a giugno 2025, ben oltre i giochi olimpici, previsti per agosto 2024 (poi è stato modificato per durare fino alla fine di dicembre 2024). Secondo gli autori della legge, il sistema non includerebbe l’identificazione facciale o biometrica, ma piuttosto utilizzerebbe l’intelligenza artificiale per identificare comportamenti «atipici» o «rischiosi», come trattenersi in un dato posto per molto tempo oppure alzare la voce.

Chi invoca il diritto alla privacy afferma che mentre questi sistemi non sono tarati per il riconoscimento facciale, a tutti gli effetti possono essere utilizzati a questo scopo. «C’è tutta una serie di cose che puoi fare con quei dati», incluso raggruppare le persone in base al colore dei capelli o della pelle, riconoscere le emozioni e trarre deduzioni relative al comportamento in base a queste categorie, dice Daniel Leufer, analista politico senior di Access Now. «Stai catturando il comportamento delle persone, il modo in cui camminano, il modo in cui urlano. I dati che stai raccogliendo o elaborando sulle persone consentiranno di identificarli».

Nelle ultime settimane, gruppi della società civile si sono uniti al coro di politici per lo più di sinistra contrari alla legge. Il 7 marzo, trentotto organizzazioni, tra cui Access Now, Amnesty International e AlgorithmWatch, un gruppo di vigilanza sull’Ia con sede a Berlino, hanno firmato una lettera aperta chiedendo la rimozione dell’articolo 7 dalla legge.

Katia Roux, che dirige l’advocacy di Amnesty International France, dice a Jacobin che la legge, oltre a violare gli standard antidiscriminazione e privacy, «può avere un effetto estremamente dissuasivo sulla libertà di espressione, la libertà di riunione pacifica». «Quando sappiamo di essere sorvegliati, o quando pensiamo di essere sotto sorveglianza, ovviamente non ci comportiamo allo stesso modo – prosegue – Può esserci una forma di autocensura». Il fatto che il sistema venga implementato a Saint-Denis, sobborgo della classe operaia in gran parte abitato da minoranze a nord di Parigi, dove è in costruzione gran parte dell’infrastruttura delle Olimpiadi, aggiunge, non fa che aumentare il potenziale di uso improprio.

Martin, di Nupes, osserva che l’articolo 7 non è l’unico elemento preoccupante della legge sulle Olimpiadi e Paralimpiadi. Include anche body scanner in stile Tsa (Transportation security administration) all’ingresso degli stadi e il dispiegamento di decine di migliaia di poliziotti durante i prossimi giochi olimpici.

La proposta di legge, ha aggiunto, è una delle numerose leggi e direttive approvate negli ultimi mesi che mirano a criminalizzare il dissenso in Francia, inclusa una direttiva approvata dal ministero dell’Interno che amplia notevolmente la portata delle multe per reati minori. «A chi è rivolto? È rivolto ai poveri, è rivolto agli attivisti – sostiene – Fa parte di un continuum minaccioso per la libertà civile che viene lentamente e costantemente rafforzato».

La dottrina della Sorveglianza Shock

Non sarebbe la prima volta che le Olimpiadi vengono utilizzate per far passare misure di sicurezza estreme, ci racconta Jules Boykoff, autore del libro Power Games: A Political History of the Olympics.

«Quando si tratta di polizia e delle Olimpiadi, le forze di polizia locali e nazionali nella città e nel paese ospitante utilizzano i giochi come il proprio bancomat, ottenendo tutti i finanziamenti, armi speciali e persino leggi che sarebbe molto difficile ottenere durante normali tempi politici – argomenta Boykoff – E così, quello che stiamo vedendo accadere a Parigi è quello che vediamo accadere in numerose città».

Le Olimpiadi del 2004 ad Atene ne sono state un esempio calzante. Durante quei giochi – i primi a svolgersi dopo l’11 settembre – un grande dirigibile dotato di telecamere sorvegliava Atene. Settantamila forze di polizia e militari rastrellavano le strade. Nei centri di calcolo nascosti alla vista del pubblico, gli agenti di sicurezza monitoravano migliaia di telecamere di sorveglianza che erano state installate per identificare «comportamenti sospetti». La sicurezza era così intensa che uno studioso greco si riferì alle Olimpiadi di quell’anno come a un «super-panopticon», in riferimento al progetto carcerario del diciannovesimo secolo che consentiva a una guardia di monitorare simultaneamente tutti i detenuti di un penitenziario senza che fossero in grado di dire quando venivano osservati. Rio de Janeiro e Tokyo, altre città ospitanti, hanno visto all’opera misure di sicurezza altrettanto estese, scrive Boykoff su Power Games.

In Francia, gli attivisti temono che lo «stato di eccezione» creato dalle Olimpiadi porterà a un accumulo a lungo termine della tecnologia di sorveglianza, proprio come è avvenuto in Grecia, che è attualmente nel mezzo di uno scandalo di spionaggio soprannominato Predator-gate, provocato dalle accuse secondo cui il partito al governo ha utilizzato uno strumento spyware chiamato Predator per spiare giornalisti e politici.

«Le Olimpiadi sono un acceleratore della sorveglianza», ci dice Alouette, un attivista per la privacy di La Quadrature du Net, un gruppo per i diritti digitali, che ha preferito rimanere anonimo per motivi di sicurezza. «Per l’industria della sicurezza, in particolare l’industria francese, rappresentano un’enorme opportunità». Le società di sorveglianza francesi e internazionali «vedono i giochi olimpici come una vetrina che consente loro di mostrare il proprio know-how», aggiunge.

Sebbene non sia chiaro quale azienda fornirà la tecnologia per la sorveglianza basata sull’intelligenza artificiale per le Olimpiadi, una società, l’azienda israeliana BriefCam, implementa già tecnologie di videosorveglianza in più di duecento comuni in tutta la Francia, fa notare La Quadrature.

Per Boykoff, l’idea di utilizzare le Olimpiadi per far passare questo tipo di misure è comune a causa della natura popolare dei grandi eventi sportivi. «Fai in modo che le persone si abituino a quel volto felice, all’ambiente del capitalismo celebrativo delle Olimpiadi, e poi quella nuova tecnologia che è stata iniettata durante i giochi in quello stato di eccezione diventa la norma per la polizia».

Un precedente europeo

La legge francese arriva anche mentre l’Unione europea si prepara ad approvare una legge che regolerebbe l’intelligenza artificiale. Questa legislazione, proposta nell’aprile 2021, potrebbe essere adottata già il mese prossimo e imporrebbe restrizioni significative alla videosorveglianza algoritmica.

Secondo Roux, l’approvazione della legge olimpica metterebbe la Francia nella posizione di «campione della sorveglianza» in Europa e potrebbe essere utilizzata come un modo per hackerare dal basso il disegno di legge sull’Ia, indebolendo la futura legislazione sulla sorveglianza nell’Ue. «Il precedente che crea e il segnale che invia agli stati membri è estremamente pericoloso», afferma.

Altri esperti di sicurezza, nel frattempo, hanno messo in dubbio l’efficacia della sorveglianza algoritmica. «Hai un problema intrinseco se utilizzi l’apprendimento automatico per prevedere eventi rari – sostiene Leufer – Se è quello che stai facendo con il tuo sistema, dovrebbe già essere un segnale d’allarme. Questo è esattamente il tipo di cose in cui l’apprendimento automatico non funziona. Meno dati hai sul tipo di cosa che stai cercando di prevedere, peggiore sarà il funzionamento del sistema».

*Phineas Rueckert è un giornalista che vive a Parigi. Collabora con Vice e Next City. Questo testo è uscito su JacobinMag. La traduzione è a cura della redazione.