La ricerca sulla visione artificiale al servizio della sorveglianza

Negli ultimi decenni, la visione artificiale — branca dell’intelligenza artificiale (AI) dedicata all’analisi e all’interpretazione di dati visivi — ha registrato uno sviluppo esponenziale. Se da un lato le sue applicazioni spaziano dall’automazione industriale alla medicina, dall’altro emergono crescenti preoccupazioni sul suo impiego predominante nel campo della sorveglianza di massa. Un nuovo studio pubblicato su Nature da Pratyusha Ria Kalluri e colleghi conferma questi timori: gran parte della produzione scientifica nel settore, e dei brevetti derivati, è incentrata sul rilevamento e l’analisi di corpi umani, spazi abitati e comportamenti. I ricercatori hanno analizzato oltre 19.000 articoli scientifici pubblicati dal 1990 al 2020 nella più prestigiosa conferenza del settore (CVPR), e più di 23.000 brevetti che citano tali articoli. I risultati sono allarmanti:

Il 90% dei paper e l’86% dei brevetti associati trattano dati umani;
Solo l’1% è dedicato esclusivamente a dati non umani;
Il numero di articoli legati a brevetti per applicazioni di sorveglianza è aumentato di cinque volte tra gli anni ’90 e il 2010.
Le tecnologie più comuni includono il riconoscimento facciale, il tracciamento del corpo umano in ambienti quotidiani (strade, negozi, uffici) e l’analisi degli spazi sociali.

Obiettivi ricorrenti: corpi, volti e spazi

Lo studio ha classificato quattro categorie principali di “estrazione di dati umani”:

Parti del corpo: spesso volti, ma anche mani o movimenti oculari, per fini biometrici;
Corpi interi: per il tracciamento, la classificazione delle attività, il conteggio delle persone;
Spazi umani: abitazioni, uffici, strade, spesso analizzati per monitorare presenze e comportamenti;
Dati socialmente salienti: abitudini, preferenze, stati sociali deducibili da immagini o comportamenti.

Questa mappatura evidenzia un sistema che “datafizza” ogni aspetto del corpo e dell’esperienza umana.

Normalizzazione e linguaggio ambiguo

Il fenomeno più inquietante non è solo la portata della sorveglianza, ma la sua normalizzazione all’interno della ricerca scientifica. Gli autori evidenziano l’uso sistematico di linguaggio obliquo o eufemistico: ad esempio, gli esseri umani sono spesso chiamati “oggetti” nei paper, eludendo una riflessione etica sul trattamento dei dati personali.

In alcuni casi, paper che affermano di occuparsi genericamente di “oggetti” includono dataset con immagini di persone, ma non ne fanno esplicita menzione. Questo contribuisce a rendere invisibili i rischi per la privacy e la libertà individuale.

Il ruolo di istituzioni e nazioni

Gli enti che producono la maggior parte dei paper con ricadute sulla sorveglianza sono:

Istituzioni accademiche e tecnologiche di punta come Microsoft, MIT, Stanford e Carnegie Mellon;
Nazioni dominanti come Stati Uniti e Cina, responsabili della maggior parte delle pubblicazioni con brevetti downstream di sorveglianza.

Il 71% delle istituzioni e il 78% delle nazioni che pubblicano paper con brevetti li vedono poi usati in contesti di sorveglianza. Questo indica che la sorveglianza non è un’aberrazione isolata, ma una norma sistemica del settore.

Il cambiamento linguistico nel tempo

Un’analisi linguistica delle parole nei titoli dei paper tra anni ’90 e 2010 mostra una transizione chiara:

Anni ’90: parole come shape, edge, motion (termini geometrici e tecnici);
Anni 2010: parole come person, action, semantic (legate all’analisi del comportamento umano).

Ciò rivela che non solo il contenuto tecnico è cambiato, ma anche l’orientamento epistemico e commerciale della disciplina.

Lo studio di Kalluri et al. smaschera la falsa neutralità della ricerca sulla visione artificiale, che spesso si presenta come puramente tecnica, ignorando le sue implicazioni sociali e politiche. Gli autori richiamano alla responsabilità collettiva: serve una riflessione etica profonda, una ristrutturazione dei finanziamenti e la promozione di pratiche di obiezione e dissenso da parte della comunità scientifica. In un mondo sempre più sorvegliato, rendere visibile ciò che la scienza vuole occultare diventa un atto politico necessario.