• Paolo Benanti

Selezione etnica as a service: la Cina e gli Uiguri

IPVM, l'autorità leader a livello mondiale in materia di videosorveglianza, che fornisce rapporti, ricerche e risultati di test ineguagliabili su cosa accade nel mondo ha recentemente pubblicato il risultato di un'indagine su alcuni servizi che i cloud cinesi offrono: riconoscimento dell'etnia uiguri. Ci troviamo di fronte a una "selezione etnica as a service", parafrasando con amara ironia. come oggi vengono chiamati e venduti i servizi cloud?


La questione è seria e anche molto preoccupante. A seguire, dopo una maggiore e dettagliata presentazione di IPVM, il report in traduzione.



IPVM, fondata nel 2008, è un ente indipendente dedito a fornire informazioni oggettive, che non accetta pubblicità, sponsorizzazioni o progetti di consulenza da parte dei produttori di servizi, software o hardware. Ha la sua sede in Pennsylvania, in un laboratorio di oltre 1.100 metri quadrati. Il sito di IPVM riceve oltre 300.000 visite al mese, conta più di 15.000 membri PRO da più di 100 paesi.


Dai dati di audit su IPVM, il sito è la risorsa più letta e discussa dai principali dirigenti, progettisti e tecnologi del settore della sicurezza, dalle società Fortune 100 ai direttori della sicurezza del governo e dalle più grandi società tecnologiche del mondo. IPVM offre corsi online dal vivo in cui insegniamo la videosorveglianza e il controllo degli accessi sulla base della nostra esclusiva ricerca e verifica continua: abbiamo certificato oltre 2.000 professionisti.



Insomma un'autorità nel settore da ascoltare con attenzione. A seguire il report che hanno pubblicato.

Alibaba, l'"Amazzon cinese '' quotata al NYSE con una capitalizzazione di mercato di oltre 700 miliardi di dollari, offre apertamente il riconoscimento uiguri / "minoranza etnica'' come servizio Cloud, consentendo ai clienti di essere avvisati ogni volta che Alibaba rileva un uiguri.


Ciò significa che il riconoscimento degli uiguri va oltre l'utilizzo da parte della polizia cinese dell'Internet nel paese, poiché il governo della Repubblica Popolare Cinese reprime la minoranza repressa.


Alibaba Cloud ha rapidamente cancellato le menzioni degli uiguri e del rilevamento delle minoranze sul suo sito Web dopo che Alibaba è stata contattata per un commento. Alibaba Cloud ha quindi affermato, senza prove o spiegazioni, che queste funzionalità sono state utilizzate solo "all'interno di un ambiente di test".


IPVM ha collaborato a questo rapporto con il New York Times che ha pubblicato la propria inchiesta. All'inizio di questo mese, IPVM e The Washington Post hanno rivelato che i giganti della tecnologia della Repubblica Popolare Cinese, Huawei e Megvii, hanno testato e convalidato gli "allarmi uiguri'' nel software di riconoscimento facciale destinato ai progetti di videosorveglianza della polizia.


Lo sfondo: Alibaba Cloud


Alibaba è la più grande azienda di e-commerce in Cina con circa 78 miliardi di dollari di vendite nell'ultimo anno fiscale terminato il 31 marzo scorso; è spesso paragonata ad Amazon e ha un noto fondatore, Jack Ma , che è attualmente la persona più ricca della Cina con un patrimonio netto di circa 61 miliardi di dollari.


Simile ad AWS di Amazon, Alibaba ha un'enorme divisione cloud chiamata Alibaba Cloud ("Aliyun" in cinese) che reclamizza "più di 3 milioni di clienti paganti" in tutto il mondo ed è il più grande servizio cloud della Cina. Alibaba Cloud ha registrato vendite per circa 5,6 miliardi di dollari per l'anno fiscale 2020.


Rilevazione uiguri come servizio


Una guida dell'API di Alibaba Cloud China elenca "is it uyghur" (是否 是 维族) come uno dei numerosi 'attributi del viso' che può rilevare (ecco lo screenshot tramite Google Translate):



La guida API, aggiornata l'ultima volta a maggio 2019, menziona una seconda volta gli uiguri chiarendo che il rilevamento di "minoranza" non si riferisce alle minoranze in generale ma in particolare agli uiguri:



Parte della soluzione di moderazione dei contenuti "Cloud Shield" di Alibaba


La guida API dice che fa parte della soluzione "Cloud Shield" di Alibaba. Alibaba Cloud spiega che Cloud Shield "è un pioniere nel campo della sicurezza dei contenuti", che:


rileva e riconosce testo, immagini, video e voci contenenti pornografia, politica, terrorismo violento, pubblicità e spam e fornisce verifica, contrassegno, configurazione personalizzata e altre funzionalità.


Il governo della Repubblica Popolare Cinese censura rigorosamente l'Internet domestico, punendo i trasgressori, quindi esiste un'industria grande e sempre più guidata dall'AI di soluzioni di moderazione e censura per le aziende private.


Alibaba Cloud offre il rilevamento delle "minoranze etniche"


La guida API che menziona gli uiguri non è disponibile con una ricerca sul sito Web di Alibaba Cloud, ma è indicizzato da Google.


Il sito Web Content Security di Alibaba Cloud include direttamente due guide API per il "riconoscimento facciale video sensibile" in grado di rilevare "se si tratta di una minoranza etnica" (是否 少数民族); vedere Syncronous detection (ultimo aggiornamento giugno 2019) e Asyncronous detection (ultimo aggiornamento novembre 2020):


Sebbene gli uiguri non siano esplicitamente menzionati, come notato, la Guida API di Cloud Shield afferma che "minority (uyghur)":



Spiegazione del rilevamento delle minoranze


Il governo della Repubblica Popolare Cinese ha represso gli uiguri da anni e questa tecnologia fa si che, ad esempio, se un uiguri decide di trasmettere in streaming un discorso, l'AI di Alibaba Cloud può riconoscere automaticamente una faccia uiguri e il video può essere contrassegnato per la revisione o la rimozione prima che trovi un pubblico significativo.


La tecnologia funziona per qualsiasi video o immagine con volti uiguri, quindi anche un video preregistrato di un uiguri che spiega il suo primo giorno di università verrebbe segnalato se il client di Alibaba Cloud avesse attivato questa funzione e funzionasse come previsto.


IPVM non è riuscita a trovare alcun esempio di implementazione della soluzione di riconoscimento uigura di Alibaba Cloud. Alibaba possiede YouKu , uno dei migliori siti web di video in Cina, mentre le piattaforme di e-commerce di Alibaba utilizzano pesantemente il live streaming. Anche Weibo, una delle più grandi app di social media della Cina, utilizza Alibaba Cloud.


International Cloud non offre il rilevamento degli uiguri


Il rilevamento di minoranze etniche o uiguri non è menzionato sui siti Web inglese / globale di Alibaba Cloud, il che indica che questa funzione è probabilmente utilizzata solo in Cina.



Alibaba elimina le menzioni uiguri e di minoranza


Subito dopo che IPVM e The New York Times hanno contattato per un commento, Alibaba ha rimosso la Guida API che menzionava gli uiguri, che ora recita "ci scusiamo, questo contenuto è in fase di aggiornamento":


Alibaba ha anche rimosso la funzione di rilevamento dei volti della "minoranza etnica" dalle due pagine che la menzionavano. Per le versioni archiviate, vedere rilevamento sincrono e rilevamento asincrono.


Affermazioni Alibaba utilizzate solo per test, senza prove


Alibaba Cloud ha affermato che il riconoscimento uigura è stato utilizzato solo "all'interno di un ambiente di test" e "non è mai stato utilizzato al di fuori" di questo contesto:


La menzione dell'etnia si riferisce a una caratteristica / funzione che è stata utilizzata all'interno di un ambiente di test durante un'esplorazione delle nostre capacità tecniche. Non è mai stato utilizzato al di fuori dell'ambiente di test

Alibaba non ha fornito alcuna prova che si trattasse di un "test" e non ci sono menzioni di "test" nelle pagine web di Alibaba Cloud che includono il rilevamento di minoranze etniche / uiguri. Alibaba inoltre non ha spiegato perché avrebbe testato il rilevamento delle minoranze etniche / uiguri in primo luogo.


AGGIORNAMENTO: Alibaba dice "sgomento" in una nuova risposta


Alibaba ha rilasciato una nuova dichiarazione dicendo che è "sgomento" che Alibaba Cloud abbia sviluppato questa "tecnologia di riconoscimento facciale" pur sostenendo che fosse utilizzata "in un ambiente di test":

La discriminazione razziale o etnica o la profilazione in qualsiasi forma viola le politiche e i valori di Alibaba. Siamo costernati di apprendere che Alibaba Cloud ha sviluppato una tecnologia di riconoscimento facciale in un ambiente di test che includeva l'etnia come attributo dell'algoritmo per taggare le immagini video. Non abbiamo mai inteso che la nostra tecnologia venisse utilizzata e non consentiremo che venga utilizzata per il targeting di gruppi etnici specifici e abbiamo eliminato qualsiasi tag etnico nella nostra offerta di prodotti. Questa tecnologia di prova non è stata implementata da nessun cliente. Non permettiamo e non permetteremo che la nostra tecnologia venga utilizzata per prendere di mira o identificare gruppi etnici specifici.

Kingsoft include anche il rilevamento degli uiguri


Kingsoft è un fornitore separato di servizi cloud in Cina e la sua API agosto 2020 disponibile sul suo sito Web include il rilevamento dei volti "uiguri, non uiguri":



Gli uiguri vengono nuovamente menzionati nell'API che rileva con il 48,7% di confidenza che un volto campione sia "uiguri":



Kingsoft è recentemente diventato pubblico al NASDAQ questo maggio, attualmente vale circa 10 miliardi di dollari. Le aziende si definiscono "un fornitore leader di servizi cloud indipendenti" in Cina e hanno realizzato circa 1,2 miliardi di dollari di vendite nel 2019.


Kingsoft: API "Impossibile esaminare sufficientemente"


Kingsoft ha cancellato questa API dal suo sito web, dicendo che era usata solo per localizzare volti e "non era in grado di distinguere o identificare individui di origine uiguri". Kingsoft ha aggiunto "non siamo riusciti a riesaminare a sufficienza l'API del Soggetto" che viene "ritirata" in quanto "l'etichettatura sulla base di qualsiasi razza è inappropriata e incoerente con le politiche e i valori di Kingsoft Cloud".


Di seguito è riportata la dichiarazione completa di Kingsoft:

L'oggetto API era un pacchetto di codice che serviva solo per aiutare a individuare un volto in una cornice di immagini che altri sviluppatori potessero utilizzare. Non era un software di riconoscimento o autenticazione delle immagini. Non è mai stato venduto e l'intero programma API, inclusa l'API del soggetto, rappresenta entrate trascurabili per la Società. L'API del soggetto non è stata in grado di distinguere o identificare individui di origine uigura. L'etichettatura sulla base di qualsiasi razza è inappropriata e incoerente con le politiche e i valori di Kingsoft Cloud. Riconosciamo di non aver esaminato sufficientemente l'API del soggetto. Questo prodotto fuorviante è stato ritirato e condurremo una revisione completa della nostra piattaforma API e assicureremo che dispongano di meccanismi di controllo e supervisione della leadership appropriati. I nostri prodotti non includeranno mai alcun tentativo di identificare ed etichettare gruppi etnici specifici.

Esempio precedente di analisi di gara


Sebbene IPVM non sia riuscita a trovare alcun esempio di aziende che utilizzano l'analisi delle minoranze di Alibaba Cloud, c'è un esempio segnalato di rilevamento di "razza" implementato da una società tecnologica cinese separata. Quest'estate, uno straniero residente in Cina ha riferito che il live streaming di sua moglie cinese Douyin (il Tik Tok cinese) è stato interrotto dopo che la sua faccia è apparsa nel suo video a causa delle normative contro gli stranieri che appaiono nei live streaming "senza permesso":



Separatamente, Douyin (il Tik Tok cinese) è noto per aver cancellato in massa video di uiguri che protestavano contro la repressione del governo della Repubblica Popolare Cinese, trasformando il sito di video in "una piattaforma di propaganda che canta e balla", ha riferito Coda Story, anche se non è noto se sono state coinvolte analisi del viso.

Il notiziario statale della Repubblica Popolare Cinese, Global Times, ha riferito che alcune società cinesi sono specializzate nella censura di video realizzati da minoranze etniche in Cina, con una di queste società che afferma esplicitamente che "di solito non usiamo persone uiguri per moderare il proprio contenuto linguistico" per evitare guai".

Conclusione È stato ben documentato che la polizia cinese utilizza gli "allarmi" uiguri nei propri sistemi di videosorveglianza. L'offerta di Alibaba di questa tecnologia esplicitamente razzista alla sua vasta clientela di Cloud mostra che la repressione degli uiguri va ben oltre le forze dell'ordine.

287 visualizzazioni0 commenti

Post recenti

Mostra tutti