• Paolo Benanti

La polizia avvia il riconoscimento facciale per le strade di Londra

La polizia di Londra sta procedendo con l'implementazione di un sistema di telecamere a riconoscimento facciale, nonostante le preoccupazioni sulla privacy e le prove che la tecnologia offra tantissimi falsi positivi.



La Metropolitan Police, il più grande dipartimento di polizia del Regno Unito con giurisdizione su gran parte di Londra, ha annunciato venerdì che inizierà a lanciare nuove telecamere di "riconoscimento facciale in tempo reale" a Londra, rendendo la capitale una delle più grandi città occidentali ad adottare la controversa tecnologia.



Il "Met", come è noto a Londra il dipartimento di polizia, ha affermato in una nota che la tecnologia di riconoscimento facciale, ha lo scopo di identificare solo le persone che sono in una lista di controllo e serve per avvisare la polizia della loro posizione in tempo reale. Questa tecnologia sarebbe "guidata dall'intelligence" e per ora sembrerebbe dover essere installata solo in posizioni specifiche. Il servizio dovrebbe vedere la luce all'inizio di febbraio.


Tuttavia, gli attivisti della privacy hanno immediatamente sollevato preoccupazioni, rilevando che le revisioni indipendenti dei processi di questa tecnologia hanno mostrato un tasso di errore anche dell'81%. "La polizia ha deciso, in un contesto di grave preoccupazione pubblica, di proseguire comunque con il riconoscimento facciale", ha dichiarato Silkie Carlo, direttore del Big Brother Watch, un gruppo a sostegno delle libertà civili lo scorso 24 gennaio. "Questa presa di posizione suggerisce o una inspiegabile incompetenza o la presenza di un convincimento ideologico che spinge ad aumentare la sorveglianza di massa nella capitale".



Un giudice britannico ha recentemente dichiarato che l'uso del riconoscimento facciale nel Regno Unito è da considerarsi una prassi legale, ma Big Brother Watch ha presentato prontamente ricorso contro tale decisione. "Questa decisione rappresenta un'enorme espansione dello stato di sorveglianza e una grave minaccia per le libertà civili nel Regno Unito", ha detto Big Brother Watch dopo l'annuncio della polizia metropolitana.


Il Regno Unito ha più telecamere di sorveglianza per persona di qualsiasi altro paese al mondo tranne la Cina. I cittadini britannici sono notoriamente a loro agio riguardo a tale copertura quando tale sorveglianza prende la forma di televisione a circuito chiuso (CCTV), ma Carlo, che ha partecipato a varie prove che ha fatto la Met con le telecamere a riconoscimento facciale, è convinto che le persone sono spesso confuse e preoccupate quando scoprono che le telecamere utilizzano la tecnologia di riconoscimento facciale.


"Trasformare le telecamere di sorveglianza in checkpoint per l'identità personale di tutti i passanti è roba da incubi", ha scritto Carlo su TIME lo scorso anno come risposta ad alcune prove pubbliche che venivano effettuate con questa tecnologia. “Per secoli, il Regno Unito e gli Stati Uniti hanno consolidato le protezioni per i cittadini da interferenze arbitrarie dello Stato, ci aspettiamo che il governo ci sostenga in questa campagna. Ci aspettiamo che le agenzie statali mostrino un mandato in caso di violazione della nostra privacy. Ma con il riconoscimento facciale in tempo reale, questi standard vengono occultati sotto la bandiera dell'innovazione tecnologica". Nel maggio 2019, San Francisco ha vietato l'uso della tecnologia di riconoscimento facciale proprio per le paure sulla privacy.


La polizia di Londra ha dichiarato che le telecamere di riconoscimento facciale n tempo reale "aiuteranno a combattere i reati gravi, tra cui la violenza grave, il crimine con armi da fuoco e da coltello, lo sfruttamento sessuale dei minori e contribuire a proteggere i vulnerabili". Hanno anche affermato che la decisione di fermare le persone identificate dalle telecamere rimarrà sempre una prerogativa di agenti umani.



Ma nella dichiarazione che annuncia l'implementazione del riconoscimento facciale in tempo reale, la polizia non ha fatto riferimento all'accuratezza della tecnologia. Ciò, afferma Carlo, è perché la tecnologia ha un tasso di errore molto elevato. "Una revisione indipendente ha esaminato sei esperimenti e ha scoperto che tutti gli allarmi generati dal sistema di riconoscimento facciale, l'81% erano identificazioni errate", ha detto Carlo. "L'annuncio di oggi mostra che il periodo di prova non è stato un test serio".


TIME ha chiesto alla polizia metropolitana sul supposto tasso di errore delle telecamere ma la Met non ha risposto alle domande della rivista.


La polizia sta presentando la decisione come un modo per aumentare l'efficienza delle proprie attività di polizia, assicurandosi al contempo che il pubblico sia consapevole dell'uso della tecnologia di riconoscimento facciale. "Il Met inizierà a implementare operativamente [il riconoscimento facciale dal vivo] in luoghi in cui l'intelligence suggerisce che è molto probabile che avvengano reati gravi", ha dichiarato Nick Ephgrave, commissario responsabile del Met. "Ogni postazione avrà una" lista di controllo "su misura, composta da immagini di individui ricercati, principalmente quelli ricercati per reati gravi e violenti".



Le telecamere di riconoscimento facciale, ha affermato Ephgrave, sarebbero "chiaramente segnalate" e accompagnate da funzionari che distribuiscono volantini sull'uso della tecnologia di riconoscimento facciale. Ha promesso che la tecnologia sfrutterà un "sistema autonomo" non collegato a nessun altro sistema di imaging, come la CCTV. Ma ciò non ha convinto alcuni sostenitori della privacy.


"Tante cose al riguardo non hanno alcun senso", ha detto sempre Carlo a TIME venerdì. “Da un punto di vista operativo, usano un furgone, hanno una squadra di ufficiali in borghese. In tutta serietà, questa non è la fine. Questo è un passo verso l'utilizzo del riconoscimento facciale dal vivo con telecamere a circuito chiuso. Il modo in cui viene utilizzato al momento non è sostenibile. Temo che sia l'inizio di qualcosa di ancora più sinistro".


Anzitutto non bisogna sganciare la parte giuridica dalla parte etica e dalla parte tecnica. Non si può parlare di etica senza conoscere gli aspetti tecnici, non si può dare una regolamentazione giuridica senza principi etici e una conoscenza del sottostrato tecnologico. Inoltre occorre introdurre nel rapporto singolo – produttore degli enti terzi, enti certificatori per certificare l’utilizzo di queste macchine.



Le intelligenze artificiali stanno cambiando il mondo: ogni attività umana, dalla medicina alla sicurezza nazionale stanno subendo profonde trasformazioni. I sistemi dotati di AI non solo aiutano l’uomo ma in sempre maggiori situazioni danno luogo a sistemi, bot o robot, completamente autonomi.


Di fronte a questo diluvio di intelligenza artificiale è urgente la questione etica. Più le AI diventano universali più è necessario sviluppare un nuovo linguaggio universale che sappia gestire l’innovazione.



Per poter sviluppare un algor-etica dobbiamo chiarire in che senso si parla di valore. Infatti gli algoritmi lavorano su valori di natura numerica. L’etica invece parla di valore morale. Dobbiamo stabilire un linguaggio che sappia tradurre il valore morale in un qualcosa di computabile per la macchina. La percezione del valore etico è una capacità puramente umana. La capacità di lavorare dei valori numerici è invece l’abilità della macchina. L’algor-etica nasce se siamo in grado di trasformare in qualcosa di computabile il valore morale.


Insomma, la domanda prima che tecnologica è etica e filosofica: nella misura in cui vogliamo affidare competenze umane, di comprensione, di giudizio e di autonomia di azione a dei sistemi software di AI dobbiamo capire il valore, in termini di conoscenza e capacità di azione, di questi sistemi che pretendono di essere intelligenti e cognitivi.