I progressi nella visione artificiale sono focalizzati sullo sviluppo di tecnologie di sorveglianza di massa.

La palla decisiva nella finale di tennis tra Sinner e Alcaraz . L'ennesimo fuorigioco fischiato a un avversario del Barcellona di Hansi Flick. O la correzione automatica delle posture per evitare infortuni come quello che ha impedito a Carolina Marín di vincere l'oro ai Giochi di Parigi. La visione artificiale è già utilizzata per tutto questo. Questa branca dell'intelligenza artificiale (IA) è anche dietro l'identificazione automatica degli amici nelle foto, le auto a guida autonoma e altre rivoluzioni emergenti, come la robotica avanzata o la scoperta di nuove proteine. Ma l'oggetto ambito della visione artificiale (IA) sono gli esseri umani: secondo uno studio pubblicato su Nature , la principale rivista scientifica, la stragrande maggioranza degli studi ( articoli , in gergo) e dei brevetti derivati ​​si concentra sulle persone, sull'identificazione delle loro diverse parti, di ciò che fanno e degli ambienti in cui si muovono.

Ricercatori di diverse università negli Stati Uniti e in Europa hanno prodotto migliaia di articoli e migliaia di brevetti depositati o registrati dal 1990, quando la ricerca sulla visione artificiale era ancora ai confini della fantascienza. All'epoca, estrarre informazioni da un'immagine o un video era una sfida per le macchine. Lo è ancora, come dimostra l'uso dei CAPTCHA visivi per confermare che siamo umani. Tuttavia, l'intelligenza artificiale ha compiuto progressi sia nella sua capacità di analizzare i dati che in quella di interpretarli. Sono molti i campi in cui la visione artificiale viene utilizzata . Aiuta gli esseri umani . Ma ha anche un lato negativo, ed è enorme.

Utilizzando una trentina di parole chiave, alcune esplicite come sorveglianza o riconoscimento facciale e altre meno ovvie come iride o aeroporto , i ricercatori hanno analizzato 19.000 articoli sui sistemi audiovisivi presentati a un'importante conferenza annuale di settore che si tiene da oltre 30 anni. Hanno fatto lo stesso con 23.000 brevetti registrati derivati ​​da tali lavori. I primi divulgano i progressi raggiunti, i secondi li proteggono in modo che solo i loro autori possano trarne profitto.

Gli autori riassumono i risultati nel loro articolo su Nature : "Abbiamo scoperto che il 90% degli articoli e l'86% dei brevetti derivati ​​estraevano dati relativi a soggetti umani". La maggior parte degli articoli, oltre i due terzi, si concentrava sull'ottenimento di informazioni dal corpo umano nel suo complesso o da parti specifiche di esso, in particolare il viso. Un'altra parte degli articoli e dei brevetti (rispettivamente il 18% e il 16%) estraeva dati da spazi umani come il lavoro, la casa o le aree di transito. Un 1% più piccolo, ma non insignificante (il 5% per i brevetti) rientra nella categoria che i ricercatori hanno definito "dati umani socialmente rilevanti", che mirano a consentire alle macchine di comprendere stati mentali, status economico, affiliazione culturale, ecc.

È collocando questi risultati in una cronologia che rileviamo l'emergere di un intero ecosistema di tecnologie di sorveglianza di massa automatizzata. All'inizio degli anni '90, si trovavano solo poche centinaia di articoli e brevetti derivati ​​nel campo dell'IA, e appena la metà era incentrata sull'analisi di dati umani. Due decenni dopo, la produzione annuale di articoli e brevetti era triplicata e il 78% era ora incentrato su dati umani. Combinando l'aumento assoluto della ricerca sulla visione artificiale e il relativo aumento del lavoro incentrato sull'uomo, la scienza della sorveglianza tramite IA è cresciuta di cinque volte.

"È difficile stabilire una causa chiara per il significativo aumento nella produzione di articoli e brevetti relativi alla sorveglianza", riconosce in un'e-mail Abeba Birhane, ricercatrice del Trinity College di Dublino (Irlanda) e autrice principale di questo studio. Tuttavia, indica diversi fattori: "Il progresso tecnico nel campo stesso della visione artificiale, la mancanza di una cultura critica e socialmente consapevole al suo interno, le strutture istituzionali che premiano la sorveglianza, o il pensiero magico che circonda la tecnologia, che presume che le tecnologie di sorveglianza siano la soluzione ai problemi politici e culturali". Menziona anche il significativo aumento dei finanziamenti dovuto all'interesse dimostrato da potenti organizzazioni che traggono vantaggio dalla sorveglianza, sia per potere, controllo o guadagno economico.

Un altro dato rivelato dagli autori è la concentrazione della ricerca nel campo dell'IA. In testa ci sono gli Stati Uniti, che producono più ricerca di tutti gli altri paesi messi insieme. Un po' distante, ma molto più avanti rispetto al terzo posto (il Regno Unito), c'è la Cina. Questo non dovrebbe sorprendere. Da un lato, sono le due superpotenze tecnologiche, a prescindere dallo scopo o dall'utilizzo della tecnologia in questione. Inoltre, la natura autoritaria del regime cinese e il legame tra l'industria militare e della difesa statunitense e la scienza d'avanguardia spiegherebbero il resto. Infatti, due degli attori più rilevanti nell'IA di nuova generazione (non necessariamente legata alla visione artificiale), Palantir e Anduril, stanno collaborando con la sicurezza nazionale statunitense . Il primo sta già sviluppando un sistema per l'amministrazione Trump per il targeting degli immigrati. E OpenAI, il creatore di ChatGPT, ha recentemente firmato un accordo con il Dipartimento della Difesa statunitense .

In un commento pubblicato sempre su Nature , Jathan Sadowski, ricercatore della Monash University (Australia), non coinvolto nello studio, discute una delle sue scoperte. Gli autori hanno analizzato l'evoluzione del linguaggio utilizzato in articoli e brevetti, rilevando una tendenza a oscurarne lo scopo con parole sempre più neutre o a eliminarle del tutto. Ad esempio, i riferimenti agli esseri umani appaiono sempre meno frequentemente, sebbene siano oggetto degli studi, e vengono sostituiti da termini come "oggetti ".

"Definire gli esseri umani come oggetti potrebbe essere considerato una semplice scorciatoia ingegneristica", scrive Sadowski. Si integrerebbe in una tendenza più generale del linguaggio tecnologico. Ma per questo scienziato, queste pratiche disumanizzanti non possono essere ignorate con leggerezza: "Queste tecnologie vengono create in un panorama politico ed economico in cui gli interessi delle grandi aziende, delle istituzioni militari e delle forze dell'ordine hanno un'enorme influenza sulla progettazione e l'utilizzo dei sistemi di intelligenza artificiale".