• Paolo Benanti

Impatto sociale delle AI: il caso dei traduttori automatici

La grande disponibilità di sistemi di traduzione automatica (machine translation o MT) come Google Translate ha profondamente cambiato il modo in cui oggi si gestiscono le prassi di comunicazione multilingue. Questa tecnologia è ora utilizzata per superare le barriere linguistiche in contesti ad alto rischio come ospedali e tribunali. I possibili errori che questi sistemi possono fare comportano gravi rischi in ambienti come questi, ma la comprensione della natura di questi rischi e delle implicazioni più ampie dell'uso di questa tecnologia è scarsa. Un paper, recentemente pubblicato nella rivista Information, Communication & Society, ha analizzato l'impatto di queste tecnologie sulla società globale in cui viviamo. Analizziamone i dettagli.



Questa ricerca, Understanding the societal impacts of machine translation: a critical review of the literature on medical and legal use cases, è il primo studio strutturato sulle conseguenze dell'uso non informato di tecnologie MT in sanità e diritto. Il testo è basato su una revisione critica della letteratura e presenta una meta-analisi qualitativa di documenti ufficiali e ricerche pubblicate sull'uso delle MT in questi due campi.



Sulla scia della globalizzazione e di una popolazione online sempre più diversificata, dover comunicare attraverso la barriera di lingue diverse, sia in contesti professionali che personali, è ora un'esperienza comune nella vita di tutti i giorni. Le esigenze di comunicazione multilingue sono sempre più soddisfatte mediante l'utilizzo dei sistemi di traduzione automatica (MT). Questi sistemi sono iniziati ad essere sviluppati fin dagli anni '50.


I sistemi di MT come Google Translate, Bing o Deepl, consentono agli utenti di ottenere traduzioni praticamente istantanee delle informazioni che desiderano consumare o trasmettere in una lingua diversa. Questa operazione in genere può essere fatto senza alcun costo iniziale per l'utente.


Dai dati pubblicati Google Translate, che è attualmente uno dei sistemi MT più popolari disponibili gratuitamente online, viene utilizzato per tradurre trenta trilioni di frasi all'anno in oltre 100 lingue.


La novità, dal punto di vista tecnologico, è che negli ultimi decenni, la progettazione dei sistemi di MT si è evoluta da sistemi basati su regole a sistemi basati su dati: lo stato dell'arte è rappresentato dalle reti neurali.


Il vantaggio nell'utilizzo di queste tecniche è l'abilità che hanno questi sistemi: di produrre traduzioni altamente fluide e idiomatiche e di costare molto meno per livelli di precisione maggiori rispetto alle tecnologie precedenti.



Tuttavia anche i sistemi MT più avanzati presentano significativi punti deboli e questo evidenzia l'importanza di comprendere il potenziale e i limiti di questa tecnologia in rapida evoluzione, sopratutto per l'utilizzo in contesti ad alto rischio dove l'uso improprio di MT può avere gravi conseguenze.


Gli autori della ricerca riportano alcuni esempi: un caso recente in una corte di giustizia, dove le prove sono state respinte in tribunale perché il consenso per eseguire una ricerca della polizia era stato ottenuto con Google Translate, il che ha sollevato preoccupazioni sulla validità del consenso; in contesto medico, una valutazione degli errori che potrebbero essere causati dalle MT ha rivelato che la frase "tuo figlio sta bene" sarebbe stata tradotta in un caso in swahili come "tuo figlio è morto".


Nonostante i rischi dell'uso di MT in contesti come questi, la ricerca sulle implicazioni dell'uso diffuso e potenzialmente non informato di questa tecnologia rimane scarsa. Inoltre per il sottoscritto, che si occupa dell'impatto delle AI e dei sistemi tecnologici sulla persona e sulla società, lo studio dell'uso di MT nella comunicazione 'quotidiana' è un'area di ricerca molto interessante.



Questo paper presenta, per quanto io sappia, la prima revisione strutturata della letteratura sulle implicazioni dell'uso improprio di MT come strumento di comunicazione in contesti medici e legali.


Contesto sanitario

Nell'assistenza sanitaria, sebbene siano generalmente riconosciuti i rischi legati all'uso della MT, la tecnologia viene spesso percepita come l'unica alternativa. Nel Regno Unito, le organizzazioni di difesa medica (vale a dire, gli organismi specializzati in reclami legali relativi alla medicina o all'odontoiatria) hanno messo in guardia contro l'uso dei sistemi di MT, anche perché l'MT non soddisfa gli standard imposti dal National Health Service.


È spesso ammesso, tuttavia, che potrebbero esserci situazioni in cui altre opzioni non sono disponibili o sono di difficile accesso. Diversi studi mostrano con chiarezza come le barriere linguistiche associate alle pressioni finanziarie e ad altre difficoltà pratiche espongono medici e pazienti a un dilemma in cui le MT, sebbene rischiose, vengono percepite come la via più semplice per la comunicazione interlinguistica.



Al momento tuttavia la maggior parte delle iniziative in MT per l'assistenza sanitaria sono ancora a livello di pilota e che le preoccupazioni sull'accuratezza e la mancanza di metodi di valutazione standard impediscono ancora agli operatori sanitari di usare le MT in modo pieno. Tuttavia, i medici considerano l'uso della MT dove le circostanze li lasciano senza altra opzione. Notevole è questo dato: considerando l'uso della MT dalla prospettiva del paziente / cliente piuttosto che dalla prospettiva del fornitore di assistenza sanitaria, si osserva che il fatto che spesso i giovani rifugiati "si affidino a Google Translate per facilitare la comunicazione quotidiana" suggerisce che questa tecnologia potrebbe essere utilizzata anche per sostenere l'assistenza sanitaria ai rifugiati. Il divario digitale è un fattore problematico significativo nella valutazione dell'uso di questi sistemi.


L'esame dell'uso di Google Translate per la traduzione delle istruzioni di dimissione dal pronto soccorso dall'inglese al cinese e allo spagnolo ha mostrato che il 2% delle traduzioni spagnole e l'8% delle traduzioni in cinese erano imprecise e potevano potenzialmente causare danni significativi.


Di fatto si registra un certo livello di utilità delle MT per l'assistenza sanitaria. Non ci sono ancora casi noti in cui le MT sia stata la causa documentata di consulenza medica inadatta o di altri gravi problemi di assistenza sanitaria. Tuttavia, vale la pena notare che le raccomandazioni sull'uso di MT per questo campo a volte non forniscono consigli oggettivi.



Mentre come precedentemente menzionato le tecnologie di MT non soddisfano gli standard del Servizio sanitario nazionale nel Regno Unito, l'interpretazione e la traduzione della guida del NHS England menziona semplicemente che le tecnologie del MT 'dovrebbero essere evitato' a causa di problemi di qualità.


I risultati delle valutazioni della qualità della MT per l'assistenza sanitaria tendono ad essere migliori per le coppie linguistiche che coinvolgono l'inglese e altre lingue dell'Europa occidentale.


Se, come suggerito dai dati, i medici usano la MT per mancanza di migliori alternative, la disparità della qualità della MT tra le lingue potrebbe mettere alcuni gruppi di pazienti a maggior rischio di incomprensioni e di essere fraintesi, in un contesto in cui tali pazienti potrebbero anche essere già svantaggiato. Questo è un problema pervasivo, che abbiamo notato anche in casi d'uso legali, come discusso più dettagliatamente di seguito.I ricercatori hanno anche osservato che l'uso della MT comporta un onere considerevole sia per i pazienti che per il personale sanitario: la MT dovrebbe "essere usata con molta cautela e solo negli incontri clinici con pazienti alfabetizzati", sottolineando "l'importanza delle capacità comunicative interculturali del medico per riconoscere e gestire la dissonanza".


Contesto giuridico

La ricerca rivela livelli misti di consapevolezza dei potenziali rischi posti dal MT in questo campo. Alcuni tribunali statunitensi hanno esaminato la questione e fornito linee guida sull'uso di MT, ma ci sono anche esempi di tribunali e professionisti del diritto che si trovano in situazioni rischiose con l'uso del MT.



La corte di stato del New Mexico è un esempio di istituzione che ha considerato MT in modo più dettagliato. Ha una comprovata esperienza nella nomina di giurati non di lingua inglese e ha fornito linee guida per l'uso di MT in relazione a queste nomine. Le linee guida stabiliscono che testo prodotto dal MT non modificato non dovrebbe essere usato per materiali che dovrebbero svolgere un ruolo formale, ad esempio in procedimenti giudiziari o come prove. Allo stesso modo, l'Immigration and Refugee Board of Canada menziona il MT come un tipo di traduzione non conforme, e la giurisprudenza mostra come i documenti tradotti automaticamente sono stati respinti a causa di ciò. Un tribunale distrettuale della California ha anche segnalato inaffidabilità di MT in un caso in cui il materiale tradotto automaticamente è stato presentato come prova.


In modo allarmante, tuttavia, ci sono indizi che suggeriscono che la mancanza di consapevolezza dei rischi dell'uso estensivo e non supervisionato del MT può essere comune tra gli stessi professionisti della legge.



Oggi non tutti gli usi in ambito legale del MT sono condannati. La MT può anche avere conseguenze per i richiedenti asilo o visti e in alcuni casi esacerbare i problemi affrontati dalle minoranze e dalle persone vulnerabili. In un caso, la credibilità della domanda di un richiedente asilo è stata messa in dubbio negli Stati Uniti dopo la traduzione automatica nel modulo di domanda. È stata inoltre prestata attenzione alle questioni di riservatezza legate all'uso di MT da parte dei funzionari dell'immigrazione. Basato su un rapporto condotto dall'Alto Commissariato delle Nazioni Unite per i rifugiati (UNHCR) si registra l'uso di MT per comunicare con i minori migranti lungo il confine tra Stati Uniti e Messico. Il rapporto fornisce dettagli su come un funzionario ha inserito tutte le domande di un modulo di immigrazione in Google Translate e ha letto le domande ad alta voce a una ragazza che ha avuto difficoltà a comprendere le domande a causa della scarsa conoscenza dello spagnolo dell'ufficiale.


Alcuni autori menzionano i requisiti minimi su "quanto deve essere accurato un sistema di traduzione" come una potenziale soluzione ai pericoli posti dall'uso del MT in contesti legali. In linea di principio, stabilire requisiti minimi di precisione è una scelta desiderabile. In pratica, tuttavia, questo è difficile da ottenere perché l'accuratezza in questo contesto non dipende solo dal sistema di MT, ma anche dalla complessità intrinseca del testo di origine e dalla probabilità che sia tradotta bene dai sistemi MT. Inoltre, qualsiasi valutazione dell'accuratezza di un sistema sarà modulata dalle caratteristiche del metodo di valutazione e dal contesto in cui verrà utilizzato il sistema.


Come mostrano alcuni degli esempi del paper, che abbiamo riportato sopra, le MT vengono utilizzati in contesti legali importanti e ciò può avere implicazioni altrettanto serie. Sorprendentemente, le raccomandazioni ufficiali al riguardo sono, nella migliore delle ipotesi, limitate. Una scarsa consapevolezza dei rischi posti dal MT può avere conseguenze legali sorprendenti. In due casi segnalati di recente, gli agenti di polizia dei trasporti negli Stati Uniti hanno utilizzato Google Translate per chiedere agli automobilisti di lingua spagnola il consenso alla ricerca dei loro veicoli. In entrambi i casi, la polizia ha trovato sostanze illegali nel veicolo e accusato gli automobilisti di un crimine. Tuttavia, nel tentativo di annullare il consenso alla ricerca, l'uso di Google Translate è stato successivamente contestato in tribunale in quanto non abbastanza accurato per superare la barriera linguistica: in un caso la mozione è stata respinta, nell'altro, tuttavia, le prove sono state annullate.



Vale anche la pena notare che, come nella sanità, il basso costo della MT online, specie quella gratuita, può spesso presentare un dilemma in contesti legali. I clienti possono avere una scarsa conoscenza della lingua in cui viene trattato il loro caso legale. Potrebbero anche non essere in grado di permettersi traduzioni professionali. Se, in tale situazione, gli avvocati non sono in grado di leggere da soli la versione originale dei documenti pertinenti, il MT può offrire un'opzione semplice. D'altra parte, se gli avvocati non possono verificare da soli il contenuto originale, non saranno in grado di attestare l'accuratezza dell'output del MT. Ciò significa che utilizzando il MT, gli avvocati potrebbero non essere all'altezza degli standard richiesti dal dovere di diligenza nei confronti dei clienti.


Non si può ignorare che i rischi dell'uso della MT in questo contesto hanno il potenziale per esacerbare le disuguaglianze sociali e linguistiche scoraggiando gli avvocati dal lavorare con clienti che non parlano la lingua o le lingue del paese in cui vivono o dove si trovano, un problema che può influire anche sulle pratiche sanitarie, specialmente nel settore privato. Questo dimostra ancora una volta che la MT è un'arma a doppio taglio: può rendere più accessibili i contenuti multilingue ma allo stesso tempo, a causa dei suoi limiti, rappresenta un rischio maggiore per alcune comunità.


Alcune riflessioni

L'uso della MT nella comunicazione sanitaria è caratterizzato da una domanda elevata, e spesso urgente, nonché da una circostanziale mancanza di alternative praticabili. Il paper suggerisce un ragionevole livello di consapevolezza dei rischi posti dall'uso indiscriminato della MT in contesti medici, ma la tecnologia è comunque considerata un'opzione di ultima istanza. La letteratura suggerisce anche che i dizionari con frasi interattive siano potenzialmente più promettenti in ambito sanitario rispetto ai sistemi MT, sebbene non esista un metodo standardizzato per valutare la tecnologia in questi contesti.


In contesti legali, ci sono prove di come l'uso di MT può influenzare il processo decisionale in situazioni legali critiche. L'uso di MT ha portato a ricorsi e ha interessato le domande di immigrazione e altre sentenze giudiziarie. Data la gravità di questi problemi, si rimane sorpresi dalla scarsità di sforzi per promuovere una maggiore consapevolezza dei rischi della tecnologia MT in questo campo.


Rispetto all'ambito sanitario, l'uso della MT in contesti legali è un argomento ancora meno studiato dove la natura di rischi e conseguenze specifici sta ancora prendendo forma e potrebbe essere di vasta portata. I bassi livelli di consapevolezza delle implicazioni sull'uso di MT osservati in contesti legali sono una scoperta un po' controintuitiva.


Gli autori dello studio sintetizzano nella tabella qui sotto i risultati chiave specifici del campo dalla revisione della letteratura. Di seguito presentiamo tre conclusioni generali in relazione all'uso e alla consapevolezza di MT delle sue implicazioni. Questi risultati servono come inviti all'azione specifici volti a mitigare i rischi dell'uso di MT in contesti ad alto rischio.



La ricerca sull'interpretazione e la traduzione del servizio pubblico in contesti sanitari e legali offre sofisticati quadri analitici per comprendere le esigenze degli stakeholder in questi contesti, che formano una complessa rete di relazioni comunicative. Il fatto che alcune traduzioni legali possano sopportare un approccio parola per parola può essere preso per giustificare l'uso di MT in questo campo, come nel caso delle traduzioni di brevetti.


Tuttavia, il ruolo specifico svolto dagli spunti non verbali nell'interpretazione del tribunale, ad esempio, dove ciascuna parte spesso vuole trovare lacune nell'argomento dell'altra, evidenzia come sia fondamentale considerare tutti gli indizi comunicativi.



In contesti di alto livello come quelli medici e legali, l'utilizzo delle MT richiede all'utente di valutare i vantaggi della tecnologia rispetto ai rischi che può comportare. La comunicazione mediata da MT dovrebbe quindi presupporre un certo livello di consapevolezza dei limiti e delle capacità della tecnologia, nonché delle implicazioni del suo utilizzo in contesti diversi. Avere tale consapevolezza è stata definita una questione di "alfabetizzazione" nell'uso della tecnologia, che è anche collegata ai concetti più ampi di apprendimento automatico e alfabetizzazione sull'intelligenza artificiale.


Le concettualizzazioni dell'alfabetizzazione in un contesto di utilizzo di MT alludono al presupposto fondamentale che l'efficacia delle MT come strumento di comunicazione può variare a seconda di come e quando viene utilizzato.


Da questa prospettiva, dall'analisi precedente emerge chiaramente che non è la stessa MT ad essere intrinsecamente rischiosa o problematica. Piuttosto, è la (mancanza di) consapevolezza di ciò che questa tecnologia può e non può fare che costituisce un rischio fondamentale.


La revisione mostra una chiara richiesta di livelli più elevati di questo tipo di consapevolezza. I casi d'uso esaminati dimostrano, tuttavia, che una scarsa consapevolezza dei rischi posti da MT non può essere attribuita solo a casi isolati di comportamento. Le pressioni di bilancio istituzionali e le linee guida ufficiali rudimentali o inesistenti contribuiscono tutte all'utilizzo non informato della MT. Ciò significa che la navigazione sui rischi della comunicazione mediata da MT richiede uno sforzo concertato per sensibilizzare la MT in tutta la società sia dal punto di vista individuale che istituzionale.


Sono necessari ulteriori sforzi per democratizzare lo sviluppo della MT in tutte le lingue.

Una preoccupazione ricorrente che emerge con forza da questo studio è il modo in cui le MT possono esacerbare le disparità.


Si rileva che, man mano che la tecnologia MT avanza, può presentare opportunità di democratizzazione della comunicazione multilingue in modi che finora non erano stati possibili. Se gli sforzi per aumentare l'efficienza dei dati continueranno, per MT sarà più facile fornire risultati di qualità superiore per le lingue del mondo meno parlate per le quali i dati e le altre risorse sono scarse.


Ci sembra di dover sottolineare come questo studio mostri senza ombra di dubbio che non esiste una tecnologia "indipendente" dal contesto culturale che la genera e che accompagna il suo utilizzo. La tecnologia va compresa, come i più recenti studi di filosofia delle tecnologie mostrano, come un elemento culturale e con caratteristiche ermeneutiche.


Nel caso di tecnologie che toccano quella forma primaria di tecnologia che accompagna l'ominizzazione del mondo, il linguaggio, la questione è quanto mai urgente e importante. L'impatto antropologico della tecnologia raggiunge nuove e inimmaginabili soglie con lo sviluppo dell'intelligenza artificiale e delle tecniche di machine learning.


Si tratta di una questione critica che mostra come sia necessaria una comprensione filosofica della tecnologia e di un'etica delle tecnologie (che nel caso dei sistemi di AI deve diventare anche un'algor-etica) per garantire che le innovazioni tecnologiche diventino autentiche fonti di sviluppo umano.