Mit Technology Review, la rivista del celebre istituto americano, ha raccontato della scrittrice cinese che si firma con lo pseudonimo di Mitu si è vista negare l'accesso al romanzo a cui stava lavorando mentre era ancora in bozze sul suo computer. Cercando di aprirlo compariva un avviso che diceva che il file era stato bloccato per "contenuti sensibili".
La denuncia ha aperto una discussione su che controllo possono operare per conto del governo le compagnie tecnologiche. Riportiamo qui il racconto di MIT Technology Review per cercare di capire cosa sia successo.
Dopo che a una scrittrice è stato bloccato il suo romanzo perché includeva contenuti illegali, gli utenti cinesi del web si chiedono fino a che punto si spinga la censura di Stato.
Immaginate di lavorare al vostro romanzo sul computer di casa. È quasi finito, avete già scritto circa un milione di parole. All'improvviso, il software di elaborazione testi online vi dice che non potete più aprire la bozza perché contiene informazioni illegali. In un attimo, tutte le vostre parole sono andate perse.
È quello che è successo a giugno a una scrittrice cinese che scrive con lo pseudonimo di Mitu. La scrittrice stava lavorando con WPS, una versione nazionale di un software di videoscrittura basato sul cloud, come Google Docs o Microsoft Office 365. Il 25 giugno, nel forum di letteratura cinese Lkong, Mitu ha accusato WPS di "spiare e bloccare le mie bozze", citando la presenza di contenuti illegali.
La notizia è esplosa sui social media l'11 luglio, dopo che alcuni importanti account di influencer l'hanno ripresa in ritardo. Quel giorno è diventato il top trending topic su Weibo, con gli utenti che si sono chiesti se WPS stia violando la loro privacy. Da allora, The Economic Observer, una pubblicazione cinese, ha riferito che in passato diversi altri romanzieri online hanno visto bloccate le loro bozze per motivi poco chiari.
La denuncia di Mitu ha scatenato una discussione sui social media cinesi sulla censura e sulla responsabilità delle piattaforme tecnologiche. Ha inoltre evidenziato la tensione tra la crescente consapevolezza degli utenti cinesi in materia di privacy e l'obbligo delle aziende tecnologiche di censurare per conto del governo. "Questo è un caso in cui forse stiamo assistendo a una collisione tra questi due aspetti", afferma Tom Nunlist, analista della politica informatica e dei dati della Cina presso il gruppo di ricerca Trivium China, con sede a Pechino.
Sebbene il documento di Mitu sia stato salvato online e sia stato precedentemente condiviso con un redattore nel 2021, la donna afferma di essere stata l'unica persona a modificarlo quest'anno, quando è stato improvvisamente bloccato. "Il contenuto è tutto pulito e può essere pubblicato su un sito web [di letteratura], ma la WPS ha deciso di bloccarlo. Chi gli ha dato il diritto di guardare nei documenti privati degli utenti e di decidere arbitrariamente cosa farne?", ha scritto l'autrice.
Rilasciato per la prima volta nel 1989 dalla società cinese di software Kingsoft, WPS dichiara di avere 310 milioni di utenti mensili. Ha in parte beneficiato di sovvenzioni e contratti governativi, poiché il governo cinese ha cercato di sostenere le proprie aziende rispetto ai rivali stranieri per motivi di sicurezza.
L'azienda ha rilasciato due dichiarazioni dopo il reclamo iniziale, chiarendo che il software non censura i file memorizzati localmente. Ma l'azienda rimane vaga su ciò che fa ai file condivisi online. "Tutte le piattaforme che forniscono servizi di informazione online sono responsabili della revisione dei contenuti diffusi sulle loro piattaforme", si legge in una dichiarazione del 13 luglio, che cita la legge cinese sulla sicurezza informatica e altre normative pertinenti. Kingsoft non ha risposto alla richiesta di commento di MIT Technology Review.
Commentando l'ultima dichiarazione di WPS su Weibo, gli utenti vogliono delle risposte. "Potete garantire che non visualizzerete i nostri documenti? Se potete, continuerò a usarlo; se non potete, chiederò il rimborso della mia iscrizione. L'ho rinnovata per diversi anni, ma ora mi sento terrorizzato", ha scritto un utente.
WPS non ha confermato ufficialmente se sia l'atto di condividere il lavoro a far scattare la censura algoritmica. Ma un commento lasciato dall'account del servizio clienti di WPS su Weibo il 13 luglio sembra confermare questa ipotesi: "La sincronizzazione e l'archiviazione su cloud non fanno scattare le revisioni. Solo la creazione di un link di condivisione per il documento innesca il meccanismo di revisione".
Anche per gli utenti cinesi di Internet, abituati alle dure leggi sulla censura, questo sembra un passo troppo lungo.
Con la diffusione delle piattaforme di condivisione di documenti in Cina, la censura non è mai mancata, ma di solito avviene solo dopo che un documento è stato ampiamente condiviso e visualizzato. Nel 2020, ad esempio, un artista cinese noto come Jianguo Xiongdi ha invitato il pubblico a contribuire a un documento che elencava tutte le parole considerate sensibili in Cina. La piattaforma di condivisione di documenti Shimo ha impiegato quasi 10 ore per notare e censurare l'iniziativa. Fino a questo mese, la maggior parte degli utenti cinesi riteneva che i propri file, diffusi solo tra amici e familiari, non avrebbero ricevuto la stessa attenzione e lo stesso monitoraggio finché fossero rimasti oscuri.
Gli utenti potrebbero non essere contenti, ma la pratica di WPS di esaminare tutti i documenti degli utenti (se questo è ciò che sta accadendo) è probabilmente consentita dalla legge cinese sulla sicurezza informatica, afferma Nunlist. Tutti i fornitori di servizi Internet sono obbligati a cancellare e bloccare i contenuti sulla loro piattaforma "quando scoprono informazioni che la legge o i regolamenti amministrativi vietano di pubblicare o trasmettere", dice l'articolo 47 della legge.
Negli ultimi anni, il governo cinese ha intensificato il controllo delle informazioni, limitando al contempo l'abuso dei dati personali da parte delle aziende tecnologiche, come dimostra la storica legge sulla protezione delle informazioni personali. Ma la controversia sul WPS dimostra che esiste una tensione intrinseca tra questi due obiettivi politici. Almeno alcuni utenti cinesi se ne sono resi conto. Nel primo post virale sulla notizia del WPS, il commento più apprezzato recita: "Questo non è chiaramente un problema di Kingsoft, ma nessuno osa prendere di mira chi dovrebbe essere veramente responsabile".
Evidentemente la censura raggiunge qui una nuova frontiera. Non solo vuole limitare la diffusione di idee che sembrano essere pericolose o inopportune al governo cinese ma vuole addirittura arrivare all'interno della parte più intima della vita di ciascuna sottraendole sul nascere e privandolo degli stessi "appunti" o "note" che le possono sostenere. Uno scenario neanche pensabile anche in Fahrenheit 451: un romanzo di fantascienza del 1953 di Ray Bradbury, ambientato in un imprecisato futuro, in cui una società distopica in cui leggere o possedere libri è considerato un reato e per contrastare il quale è stato istituito un apposito corpo di vigili del fuoco impegnato a bruciare ogni tipo di volume.
Byung-Chul Han ha fatto alcune analisi molto interessanti nel suo testo Psicopolitica. Proponiamo le riflessioni sul testo che ha fatto Gonzato per Pandora Rivista:
A metà degli anni Settanta, il filosofo Michel Foucault svolse una critica a tutto campo alla teoria giuridica e filosofica classica sul concetto di “potere”. In opere come Sorvegliare e punire (1975) e La volontà di sapere (1976) o negli scritti raccolti Microfisica del potere (1977), Foucault delineò una nuova “analitica del potere”. Un potere che, fino a quel momento, era stato inteso dalla gran parte degli studiosi come “sovrano”, un potere coercitivo nelle mani esclusive dello Stato. Una forza, dunque, che si svilupperebbe in un rapporto verticale, unidirezionale, dall’alto verso il basso. Foucault smontò questa interpretazione, prospettando un’idea opposta.
Foucault parlò di un potere diffuso, non più monolitico; un potere ramificato, che si diffonderebbe “orizzontalmente” e non più “verticalmente”. Un potere tanto più efficace perché si propagherebbe attraverso le “istituzioni totali”. Queste ultime sarebbero il carcere (sul modello del Panopticon di Jeremy Bentham), la clinica, la casa di cura. Dispositivi, questi, che determinerebbero non un potere centralizzato, ma appunto diffuso. Il Panopticon è il carcere perfetto, architettato in maniera geometrica. In esso, tutti i detenuti possono essere sorvegliati da un potere che tutto vede; una sorta di Grande Fratello che impone la disciplina. Il potere in Foucault non è più potere di decisione “sulla vita o sulla morte”. Esso si occuperebbe direttamente di implementare la vita. Da queste deduzioni – che Foucault elaborò grazie allo studio diretto delle cliniche, dei manicomi e degli istituti penali – il filosofo francese arrivò a estendere il modello della sorveglianza disciplinare su di una scala più grande rispetto quella dei singoli internati: la popolazione. Foucault elaborò così il concetto di “biopolitica”. Con esso volle spiegare il fenomeno, strettamente contemporaneo, di una politica sempre più attenta e interessata alla regolazione della vita, dei ritmi e delle abitudini della popolazione. Il celebre controllo delle nascite praticato in Cina è un esempio lampante di biopolitica.
All’interno del saggio Psicopolitica, Han sostiene però la necessità di rivedere queste categorie foucaultiane. Gli algoritmi che oggi governano i social e i siti di e-commerce (e non solo), che consentono l’analisi dettagliata degli utenti (la cosiddetta “profilazione”) non potrebbero rappresentare – si domanda Han – nuove tecniche di potere che guardano più alla psiche che al corpo delle persone?
Dice Han: “Dopo Sorvegliare e punire, Foucault era chiaramente convinto che la società disciplinare non fosse uno specchio fedele del proprio tempo”. Successivamente, riprendendo il Poscritto sulle società di controllo (1990) di Gilles Deleuze, Han sostiene che, al giorno d’oggi, le classiche istituzioni di potere – scuola, prigione, caserma, clinica – “non si adattano alle forme di produzione post-industriali, immateriali, interconnesse, che spingono a una maggiore apertura e al venir meno dei confini”.
Nell’epoca dell’economia finanziaria e immateriale, “La biopolitica – prosegue Han – che usa le statistiche demografiche, non ha alcun accesso a ciò che è psichico”. Per Han, il capitalismo post-industriale, il “capitalismo delle piattaforme” – dove per “piattaforme” intende i giganti del Web – farebbe leva più sulle emozioni che sulla forza fisica; spingerebbe più sui gusti e le preferenze degli utenti che sulla produttività di questi. Perciò, alla biopolitica foucaultiana, Han sostituisce il termine appunto di “psicopolitica”. La psico-politica, in quanto agirebbe direttamente sulla psicologia e sulla mente delle persone.
Per questo, al potere disciplinare che imporrebbe delle regole e degli obblighi, Han sostituisce un potere intelligente, che seduce e gratifica. In questa analisi altamente pessimistica rispetto alla società contemporanea, Han parla della nascita di un “panottico digitale”. Per Han, esso sarebbe un nuovo sistema di controllo, fondato su un duplice meccanismo potentissimo.
Tale sistema troverebbe espressione negli smartphone e nei social-network. Infatti, da un lato, attraverso i social, gli utenti si “denuderebbero” volontariamente, mettendo in mostra deliberatamente la loro vita. Dall’altro lato, però, tali piattaforme sarebbero anche un “occhio” sorvegliante le nostre vite. Sempre in Psicopolitica, Han afferma che oggi “[…] nessuno si sente davvero sorvegliato o minacciato”. Questo sarebbe infatti il meccanismo della cosiddetta “libertà percepita”. Tradotto: si crede di essere liberi, ma in fondo non lo si è del tutto. In particolare, per spiegare il ruolo sociale ricoperto oggi dagli smartphone, Han utilizza una metafora provocatoria ma interessante: “Lo smartphone è un oggetto devozionale di natura digitale, anzi è per eccellenza l’oggetto devozionale del digitale. Come strumento di soggettivazione funziona come il rosario, che rappresenta per la sua maneggevolezza, una specie di cellulare”. Per Han, tanto il rosario quanto il cellulare rappresenterebbero due forme di dominio delegato ai singoli individui. Come il rosario sarebbe l’emblema del “dominio spirituale” auto-imposto dal fedele su sé stesso, il cellulare sarebbe l’emblema dell’auto-sorveglianza del cittadino digitale.
Qui siamo un po' oltre perché è si "psico-" ma non è dolce e persuasivo ma forte e censorio. Siamo forse all'estrema frontiera, dove matrici liberiste e neomarxiste si fondono in un inedito psicodominio.