Degli attivisti in tuta stanno scansionando - senza il consenso di nessuno - i volti delle persone che incontrano a Washington DC utilizzando il software che Amazon vende liberamente. Nelle loro intenzioni: "L'azione mostrerà che la sorveglianza del riconoscimento facciale è pericolosa sia quando gli algoritmi funzionano che quando non lo fanno". Azione necessaria? Semplice dimostrazione?
Il sito web VICE ha raccontato le facce stupite e preoccupate delle persona che hanno reso la metropolitana di Washington DC lo scorso 14 novembre che si sono trovate davanti delle persone in tuta bianca che gli scrutavano il viso con un cellulare legato alla testa: una scena tra l'insolito e decisamente l'allarmante.
Un gruppo di attivisti per i diritti digitali stanno utilizzando Rekognition, la tecnologia di scansione facciale messa in commercio da Amazon, per scansionare i volti di migliaia di residenti nell'area del Distretto della Columbia - non un vero e proprio stato ma il centro politico degli US -. Hanno "catturato" con i loro telefoni e il loro buffo abbigliamento, che ricorda un po' Ghostbuster, non solo l'attenzione ma anche i volti di persone che passavano fuori dalle sale del Congresso e all'interno delle stazioni della metropolitana più trafficate della città.
L'azione era volta a mostrare le conseguenze dannose della sorveglianza del riconoscimento facciale. Per tutto il giorno, questo gruppo per i diritti digitali, Fight for the Future, ha effettuato un controllo incrociato dei volti scansionati con un database pubblico che contiene i volti di giornalisti, lobbisti e membri del congresso.
"Vedremo dopo il fatto quanto il software sia preciso", ha detto a Motherboard, la sezione di VICE che si occupa di tecnologia, Evan Greer, direttore di Fight for the Future. “Il punto che stiamo cercando di sottolineare è che la tecnologia di riconoscimento facciale è pericolosa in entrambi i casi. È pericoloso quando identifichiamo erroneamente le persone ai fini dell'applicazione della legge, ed è pericolosa quando funziona. Significa che chiunque, che sia il governo o una società privata o un ex partner inquietante, può usarlo per identificare qualcuno".
Dopo alcune ore fuori dall'edificio del palazzo dei congressi di Rayburn a Capitol Hill, gli scanner di Fight for the Future avevano già elaborato quasi 14.000 volti, identificando un membro del Congresso, sette giornalisti e 25 lobbisti. A complemento dell'operazione, perché la dimostrazione non fosse solo visibile e percepibile da chi era in DC il 14 l'intera giornata è stata trasmessa in streaming su un sito messo in piedi appositamente dagli attivisti: Scancongress.com.
L'azione ha fatto in una certa maniera "ribollire" il mondo degli attivisti per i diritti digitali. Pur ammettendo che l'azione fatta a Washington era animata da buone intenzioni, alcuni membri di spicco del mondo degli attivisti per i diritti digitali hanno criticato e messo in discussione le più ampie implicazioni di questa forma di protesta. Di fatto ci si chiede se azioni come questa non facciano più danni degli eventuali benefici che ne deriverebbero: di fatto è un modo che comunque mette al centro le comunità già colpite dalla sorveglianza digitale e influisce sui passanti che non sono consapevoli di quello che sta succedendo. Tra le varie reazioni citiamo quella di Chris Gilliard, un redlining digitale ed esperto di politica presso il Maccomb Community College, che ha twittato: “Quindi state eseguendo la sorveglianza del viso su migliaia di persone non consenzienti, molte delle quali di minoranze, forse prive di documenti, per dimostrare il vostro punto? No. Non fatelo!".
"Questa è un'azione che cerca di fare del bene evidenziando i punti critici, ma fa esattamente la stessa cosa che sta criticando", ha detto a Motherboard Natalie Kane, curatrice del design digitale presso il Victoria & Albert Museum di Londra. Secondo questa linea di lettura, azioni come questa non stanno davvero migliorando l'alfabetizzazione digitale e aumentando la consapevolezza dei cittadini. Chi legge le cose come Kane pensa che l'unica cosa che si potrà ottenere è di aumentare il numero di persone che si preoccupano di problemi come questo ma di contro non sanno cosa fare per tutelare i loro diritti.
Greer dei Fight for Future ha dichiarato che il loro intento era proprio quello di far pensare le persone e, progettando questa azione dimostrativa, hanno considerato il modo in cui azioni come questa potevano essere accolte nelle comunità più vulnerabili alla sorveglianza digitale e al riconoscimento facciale. "Abbiamo anche scelto le sedi di azione con attenzione per essere in luoghi in cui le persone sono già sotto sorveglianza, non in quartieri residenziali", ha detto. "Il nostro team ha anche esperienza personale nel ricevere la sorveglianza e ritiene che sia urgente e importante reagire".
In particolare i Fight for Future, sperano di dimostrare ai politici, ai giornalisti e ai lobbisti come questa tecnologia potrebbe avere un impatto diretto su di loro, piuttosto che fare una discussione astratta analoga a quella che di solito si ascolta tra i professionisti che lavorano in politica. "Si tratta di mostrare il pericolo e invitare i legislatori a vietare questa tecnologia", ha concluso Greer.
L'azione arriva durante un periodo di forte preoccupazione per l'etica della tecnologia di riconoscimento facciale, che è già stata utilizzata per sorvegliare e sorvegliare comunità di colore, immigrati privi di documenti e altre popolazioni vulnerabili. Secondo L'American Civil Liberties Union - un'organizzazione non governativa orientata a difendere i diritti civili e le libertà individuali negli Stati Uniti - il software di riconoscimento facciale di Amazon rappresenta una "grave minaccia per le comunità, comprese le persone di colore e gli immigrati". È il proprio test del software Amazon che ha identificato erroneamente 26 legislatori della California.
Finora, Rekognition di Amazon è stato distribuito al dipartimento di polizia di Orlando, e, per quanto si sa, al dipartimento di uno sceriffo in Oregon. Nel 2018, Amazon ha incontrato i dirigenti dell'Immigration and Customs Enforcement (ICE) per presentare il suo sistema - Rekognition -, provocando contraccolpi nei suoi stessi ingegneri.
Nel frattempo la politica si sta muovendo. I senatori Chris Coons (Democratico del Delaware) e Mike Lee (Repubblicano dello Utah) hanno introdotto una proposta di legge che richiederebbe alle forze dell'ordine di ottenere un mandato per condurre la sorveglianza pubblica utilizzando la tecnologia di riconoscimento facciale. "La tecnologia di riconoscimento facciale può essere un potente strumento per le forze dell'ordine", ha dichiarato il senatore Lee in una nota per la stampa. “Ma è molto potente e lo rende anche molto capace di far compiere abusi. Ecco perché i cittadini americani meritano protezione dai possibili abusi del riconoscimento facciale ".
Fight for the Future, l'organizzazione che ha guidato questa azione dimostrativa, si oppone alla nuova legislazione, sostenendo che non basta e semplicemente limiterebbe la discussione politica. "Ha lacune aperte che autorizzano l'uso del riconoscimento facciale per tutti i tipi di scopi abusivi senza un'adeguata supervisione giudiziaria", ha detto il gruppo. "È bello vedere che il Congresso vuole affrontare questo problema, ma questo disegno di legge non è assolutamente all'altezza".
I legislatori hanno già vietato la tecnologia in diverse città, tra cui San Francisco, Berkeley, Oakland e Sommerville, nel Massachusetts.
A seguito dell'azione, Fight for the Future rilascerà uno strumento che permetterà alle persone che erano a Washington giovedì di verificare se il loro viso è stato scansionato caricando una loro foto. Le foto e i dati, dice Greer, saranno distrutti dopo due settimane.
Il tema del riconoscimento facciale è al primo posto anche nell'agenda delle grande aziende. Microsoft, animata dal suo presidente Brad Smith è in prima linea su questi temi. La questione è emersa anche nel colloquio tra il presidente e papa Francesco.
Il Papa, proprio nello stesso giorno di questa dimostrazione, in un'udienza al gruppo che si proporne di tutelare la dignità dei bambini nel mondo digitale ha usato parole forti:
Lo sviluppo vertiginoso del mondo digitale vede protagoniste le grandi compagnie del settore, che superano agevolmente le frontiere fra gli Stati, si muovono rapidamente sul fronte più avanzato dello sviluppo tecnologico e hanno accumulato risorse economiche ingenti. È ormai evidente che esse non possono considerarsi completamente estranee all’uso degli strumenti che mettono nelle mani dei loro clienti. È ad esse quindi che rivolgo oggi il più impellente appello alla responsabilità nei confronti dei minori, della loro integrità e del loro futuro. Senza il pieno coinvolgimento delle società del settore, senza una piena consapevolezza delle ricadute morali e sociali della loro gestione e del loro funzionamento, non sarà possibile garantire la sicurezza dei minori nel contesto digitale. Esse sono non solo tenute a rispettare le leggi, ma anche a preoccuparsi delle direzioni in cui si muove lo sviluppo tecnologico e sociale da loro promosso e provocato, perché tale sviluppo precede di fatto le stesse leggi che cercano di regolarlo. [...] Le possibilità della tecnologia sono sempre più elevate. Oggi si parla molto delle applicazioni della cosiddetta intelligenza artificiale. L’identificazione e l’eliminazione dalla circolazione in rete delle immagini illegali e nocive ricorrendo ad algoritmi sempre più elaborati è un campo di ricerca molto importante, in cui scienziati e operatori del mondo digitale devono continuare ad impegnarsi in una nobile competizione per contrastare l’uso perverso dei nuovi strumenti a disposizione. Faccio quindi appello agli ingegneri informatici, perché si sentano anch’essi responsabili in prima persona della costruzione del futuro. Tocca a loro, con il nostro appoggio, impegnarsi in uno sviluppo etico degli algoritmi, farsi promotori di un nuovo campo dell’etica per il nostro tempo: la “algor-etica”.
Ci sembra che l'interesse globale al tema da parte delle compagnie tecnologiche, dei politici e di una figura come quella di papa Francesco, unita a dimostrazioni sempre più frequenti come quella dei Fight for the Future o le note dolenti che giungono da Honk Kong, dicano che la linea è chiara.
L'innovazione ha bisogno di essere governata perché sia fonte di sviluppo. Abbiamo bisogno di uno sviluppo che ponga l'umano al centro. Per far questo lo sviluppo dovrà essere:
Globale: di tutti gli uomini e di tutte le donne. Deve essere inclusivo (bambini, giovani, anziani, disabili, deboli e soggetti vulnerabili).
Integrale: di tutto l’uomo e di tutta la donna. Abbiamo creduto a chi ci diceva che la felicità era: avere di più, consumare di più, conquistare, sopraffare. Oggi siamo disillusi ma nel profondo non cessa la speranza per la felicità.
Plurale: attento ai contesti sociali, cioè rispettoso delle differenze, delle tradizioni e delle culture. Plurale come l’umanità.
Fecondo: pone le basi e si prende la responsabilità di agire pensando alle generazioni che verranno.
Gentile: mettere al centro l’umano significa che l’uomo è una parte di un tutto, la casa comune, che si fonda su delicati equilibri. Essere umano significa rispettare la bellezza e riconoscere il valore di tutto ciò che esiste.
Perché questo accada abbiamo bisogno di algor-etica per evitare le forme distopiche dell'algo-crazia.