• Paolo Benanti

Nuove carceri: lavorare per le AI


Il "lavoro carcerario" è solitamente associato al lavoro fisico, ma i detenuti in due prigioni in Finlandia stanno facendo un nuovo tipo di lavoro: classificare i dati per addestrare algoritmi di intelligenza artificiale per una startup. Una novità che tocca l'opinione pubblica e che ci deve far porre qualche domanda.

Uno sguardo alla storia...

Gli stati moderni hanno organizzato l'amministrazione della giustizia in modi molto precisi che includono delle pene che il reo deve scontare. La prigione, detta anche galera, carcere, penitenziario o istituto di pena, è il luogo dove vengono reclusi individui resi privi di libertà personale in quanto riconosciuti colpevoli di reati per i quali sia prevista una pena detentiva. Nei moderni ordinamenti l'inflizione della pena del carcere avviene dopo un processo.

Il movimento illuminista, seguendo il filone rivoluzionario e grazie a esponenti come Immanuel Kant (1724-1804), Cesare Beccaria (1738-1794) e Gaetano Filangieri (1753-1788), elaborò un nuovo sistema carcerario basato su principi morali, il libero arbitrio, l'integrità fisica e morale, l'istruzione e il lavoro. La pena, intesa come castigo e dolore, è volta a contrastare non più l'uomo ma il delitto come entità avulsa dal proprio autore. A causa degli austriaci, fu edificato a Milano nel 1764 un carcere di tipo cellulare che si basava sull'isolamento dei detenuti.

Con l'avvento della scuola positiva che si proponeva non solo lo studio del delitto in sé, ma anche e principalmente dell'uomo delinquente, furono pubblicati i dati sperimentali di eminenti antropologi quali Cesare Lombroso (1835-1909), Enrico Ferri (1856-1929) ed Enrico Pessina (1828-1916).

Il lavoro carcerario è uno degli strumenti fondamentali per la risocializzazione del recluso e dell'internato. Per questo ad esso è stata sempre prestata particolare attenzione da parte del legislatore. Il lavoro carcerario svolge una funzione normalizzatrice e correttiva, poiché: sottrae i detenuti alle conseguenze negative dell'ozio; favorisce il loro trattamento rieducativo; offre loro la possibilità di ricavare un guadagno, col quale soddisfare le loro necessità e sussidiare la famiglia.

... e uno all'oggi...

Il "lavoro carcerario" è solitamente associato al lavoro fisico, ma i detenuti in due prigioni in Finlandia stanno facendo un nuovo tipo di lavoro: classificare i dati per addestrare algoritmi di intelligenza artificiale per una startup. Anche se la startup in questione, Vainu, vede la partnership come una sorta di riforma carceraria che insegna abilità preziose, altri esperti suggeriscono che la società stia di fatto sfruttando i prigionieri che sono messi a lavorare per salari molto bassi.

Vainu sta creando un database mondiale basato sull'AI che aiuta le aziende a trovare gli appaltatori con cui lavorare, dice il co-fondatore Tuomas Rasila. Affinché ciò funzioni, le persone devono leggere centinaia di migliaia di articoli di business reperiti su Internet ed etichettare se, ad esempio, un articolo in cui compare la parola Apple, si riferisce alla società tecnologica di Cupertino o a una società ortofrutticola che ha "mela" nel nome. Questo dato etichettato viene quindi utilizzato per addestrare un algoritmo che gestisce il database.

Questo non è un problema per gli articoli in inglese: Vainu ha semplicemente creato un account Amazon Mechanical Turk per fare in modo che le persone svolgano questi piccoli compiti. Ma il "turco meccanico" di Amazon Web Services "non è davvero così utile quando vuoi fare qualcosa [con la] lingua finlandese", dice Rasila, e la compagnia aveva un solo tirocinante che taggava molti dati in finlandese. Gli uffici di Vainu si trovano nello stesso edificio del quartier generale dell'Agenzia delle sanzioni penali - CSA -, l'agenzia governativa che sovrintende alle prigioni finlandesi, e così, dice Rasila, i fondatori hanno avuto un'idea: perché non usare il sistema carcerario per trovare lavoratori.

La partnership è iniziata circa tre mesi fa e Vainu ora lavora con due diverse prigioni, una a Helsinki e una a Turku. Vainu ha spedito 10 computer in queste prigioni e paga il CSA per ogni compito svolto dai detenuti. L'ammontare è paragonabile a quanto sarebbe costato lo stesso compito su Mechanical Turk, anche se il CSA è responsabile di capire quanto di quella paga vada ai prigionieri, così come selezionare i detenuti che fanno la classificazione dei dati.

I funzionari dell'agenzia erano entusiasti di collaborare, secondo Rasila, soprattutto perché i nuovi lavori non richiedono altro che un laptop. "Non c'è rischio di violenza", dice, aggiungendo che quando si parla di altre forme di lavoro carcerario, come ad esempio quelli meccanici e di serramentistica, l'accesso a strumenti che possono essere trasformati in armi di fortuna può rendere uno spazio di lavoro carcerario "un posto pericoloso". Rasila stima che, attualmente, poco meno di 100 prigionieri stanno lavorando al progetto di Vainu per alcune ore al giorno. Tuttavia non si hanno dati ufficiali.

Al momento, Vainu e il CSA hanno un contratto annuale basato sul numero di compiti. Il team di Vainu spera di espandersi altrove in Finlandia e in altri paesi dove può essere difficile trovare persone disposte a fare questo tipo di lavoro nelle lingue locali. Per loro, è una situazione win-win. Una motivazione per i detenuti è quella di fare soldi, ovviamente, ma "il punto di forza è che la domanda di AI per la formazione sta aumentando in modo significativo, a livello globale", afferma Rasila. Allo stesso modo, il CSA ha scritto in un comunicato che il programma è parte dei suoi sforzi per sviluppare attività lavorative che soddisfano "le esigenze della vita lavorativa moderna" e un rappresentante delle pubbliche relazioni ha proposto la partnership a The Verge come "un'opportunità per i detenuti di avere un lavoro che può rafforzarli".

Non dovrebbe sorprendere, inoltre, qualora comparisse una richiesta particolarmente elevata per questo tipo di lavoro in altri paesi, secondo Lilly Irani, professore di scinze della comunicazione all'Università della California a San Diego. Gli algoritmi di intelligenza artificiale devono essere addestrati in modi culturalmente specifici, dice, e la maggior parte dei lavoratori di Mechanical Turk sono negli Stati Uniti.

Anche se Rasila dice che questo è un esempio di sviluppo di competenze che possono essere utili in futuro, dice anche che i compiti hanno una "zero learning curve" e richiedono solo alfabetizzazione (presumibilmente preesistente), che mette in discussione quanto sia utile questa abilità. Questo tipo di lavoro tende ad essere "ripetitivo, umile e ripetitivo", afferma Sarah T. Roberts, professore di scienze dell'informazione all'Università della California a Los Angeles, che studia i temi connessi alla condizione dei lavoratori nel mondo dell'informazione. Non richiede la costruzione di un alto livello di abilità e, se un ricercatore universitario cercasse di collaborare con i detenuti nello stesso modo, "non passerebbe una commissione di revisione etica per fare uno studio". Se da un lato è bene che i prigionieri vengano pagati con un salario simile a quello di Mechanical Turk, Roberts sottolinea che gli stipendi su Mechanical Turk sono comunque estremamente bassi. Un recente documento di ricerca ha mostrato che i lavoratori hanno un salario medio di 2 dollari l'ora.

Per Irani, non c'è nulla di speciale che riguarda le AI in questa storia. Almeno negli Stati Uniti, il lavoro carcerario è stato a lungo controverso , con alcuni che dicono che sfrutta economicamente i lavoratori, mentre altri sostengono che può contribuire a riabilitarli. Secondo Vainu le reazioni dell'opinione pubblica sono legate solo allo stupore del fatto che il lavoro digitale sia diventato parte del lavoro carcerario. "Il fatto che ci sia questo tipo di hype che circola sull'intelligenza artificiale è un modo per poter mascherare le vecchie forme di sfruttamento del lavoro con forme di carcere riformatore e innovatore", dice Irani. "Stanno collegando i movimenti sociali, riducendoli a fare pubblicità e usandoli per vendere AI".

... tornando alla storia...

Tornando alla storia dobbiamo rilevare come in epoca moderna, in Francia e in Inghilterra si fece grande uso dei prigionieri come lavoratori forzati nelle colonie. Essi venivano in un primo momento venduti ai coloni come schiavi per un periodo (da 10 a 17 anni); quando i coloni sostituirono i detenuti con gli schiavi neri, meno costosi e più abbondanti, i detenuti vennero venduti come schiavi di stato per l'esecuzione di opere pubbliche in luoghi impervi. Cessato il principio della schiavitù e ridottosi molto l'uso della pena di morte, i detenuti furono ammassati in isole, prima in lontane zone coloniali, poi in isole della madrepatria (famosissime Cayenna in Francia, Alcatraz negli USA e, in Italia, Asinara, Pianosa, Ventotene, ecc.) sino a quando nuove concezioni umanitarie e l'ostilità del personale di guardia verso tali sistemazioni non indussero a legare le prigioni al territorio.

...guardiamo al domani.

Abbiamo bisogno di una nuova etica? Dovremmo iniziare a parlare di diritti umani digitali? Questi potrebbero essere nuovi capitoli per l'algor-etica.

#Etica #algoritmo #Cultura #educazione #AI