Connettere le black-box: che succede se uniamo il cervello e le AI

February 8, 2018

Von Neumann diceva che

«le scienze non cercano di spiegare, a malapena tentano di interpretare, ma fanno soprattutto dei modelli. Per modello s’intende un costrutto matematico che, con l’aggiunta di certe interpretazioni verbali, descrive dei fenomeni osservati. La giustificazione di un siffatto costrutto matematico è soltanto e precisamente che ci si aspetta che funzioni — cioè descriva correttamente i fenomeni in un’area ragionevolmente ampia. Inoltre esso deve soddisfare certi criteri estetici — cioè, in relazione con la quantità di descrizione che fornisce, deve essere piuttosto semplice»

da Giorgio Israel nel suo Modelli Matematici. Introduzione alla matematica applicata

 

Le parole del matematico e fisico ungherese, nazionalizzato poi cittadino americano, a cui dobbiamo alcune delle teorie fondamentali per lo sviluppo dei computer e delle tecnologie informatiche, ci ricordano che la scienza, anche se con una consapevolezza nuova dal Novecento, ha come scopo il descrivere la realtà rappresentandola non in maniera “perfetta”, cioè come essa è ma in maniera “fedele”, cioè in un modo significativo per il processo di analisi e di prognosi — cioè capacità di predizione — che si vuole ottenere.

 


Questo modo di procedere crea quello che si chiama “modello matematico”: una rappresentazione “fedele” della realtà costruita usando il linguaggio e gli strumenti della matematica.

Tutti i settori della scienza, ma anche della’ingegneria e le scienze informatiche, fanno largo uso di modelli matematici per modellizzare determinati aspetti del mondo utilizzando gli strumenti matematici (calcolo combinatorio, infinitesimale, statistica, ecc.). Poiché, come già dicevamo, il modello matematico consente di operare delle prognosi future su un sistema è ciò che distingue la scienza quantitativa dalla scienza qualitativa d è ciò che consente ai nostri dispositivi tecnici di funzionare.

Poiché quindi un modello matematico non è altro che una rappresentazione esemplificativa di un sistema reale, nel suo sviluppo vengono schematizzate le sole caratteristiche fisiche che interessa studiare tramite una serie di regole che legano diversi parametri interni, le sollecitazioni esterne e le uscite — le risposte del sistema.

Tra tutti i modelli è particolarmente interessante quello della black box: la realtà che si osserva è un sistema che, similmente ad una scatola nera, è descrivibile essenzialmente nel suo comportamento esterno ovvero solo per come reagisce in uscita (output) a una determinata sollecitazione in ingresso (input), ma il cui funzionamento interno è non visibile o ignoto. Tale definizione nasce dalla considerazione che nell'analisi del sistema ciò che è veramente importante a livello macroscopico ovvero a fini pratici è il comportamento esterno, specie in un contesto di interconnessione di più sistemi, piuttosto che il funzionamento interno il cui risultato è appunto proprio il comportamento esterno.

 Quando si parla di black box, non c’è scatola nera più nera del cervello umano. Il nostro sistema nervoso centrale è così complesso, che i neuroscienziati faticano a descriverlo con modelli diversi da quello della scatola nera. Ma se noi non riusciamo a capire il nostro cervello, forse le macchine possono farlo per noi. Questa idea ha solleticato i ricercatori e nell'ultimo numero di Nature Communications, alcuni di essi guidati dallo psicologo dell’Università della Pennsylvania, Michael Kahana, mostrano alcuni interessanti risultati. La loro idea è stata quella di utilizzare degli algoritmi di apprendimento automatico, sistemi notoriamente imperscrutabili descritti anch'essi come black box, all'interno di stimolatori connessi al cervello per decodificare e migliorare la memoria umana.

Come hanno fatto? Gli algoritmi di machine learning attivano un sistema di impulsi elettrici con un timing preciso in luoghi precisi del cervello. Da un punto di vista tecnologico, i ricercatori della PennU — come amichevolmente viene indicata l’università della Pennsylvania, stanno usando una black box per controllare il potenziale di un’altra. Se questa cosa sembra una soluzione piuttosto elegante per un problema assurdamente difficile, contemporaneamente sembra essere l’ultimo episodio — particolarmente tecno-distopico e apocalittico — di Black mirror intitolato “Black museum”.

 

I neuroscienziati indagano il cervello grazie a delle misurazioni degli impulsi elettrici che si generano al suo interno e al consumo di ossigeno che avviene al suo interno: i due fenomeni sono connessi, infatti è grazie all'ossigeno consumato che i neuroni riescono a produrre l’attività elettrica. Quando si tratta di misurare l’attività del cervello, le migliori registrazioni, per precisione e attendibilità, sono quelle che si effettuano in vivo all'interno del cranio. Certo è palese che tanto i cittadini quanto le commissioni di bioetica non sono propense a far aprire le calotte craniche delle persone in nome della scienza o il suo progresso. Così Kahana ei suoi colleghi hanno fatto il loro studio collaborando con 25 pazienti con epilessia, ognuno dei quali aveva già subito un impianto nel cervello di alcuni elettrodi — tra 100 e 200 per ogni paziente — per monitorare l’attività elettrica celebrale e il suo propagarsi durante le crisi. Il team di ricercatori della PennU ha sfruttato quegli impianti usando gli elettrodi per registrare l’attività cerebrale che si sviluppa durante le attività connesse alla memoria. La presenza di un alto numero di sensori ha permesso una registrazione in vivo ad alta risoluzione.

 

Quello che ne è emerso, in primo luogo, è come opera elettricamente un cervello quando memorizza le cose: mentre i pazienti leggevano e tentavano di interiorizzare elenchi di parole, Kahana e il suo team raccoglievano migliaia di misurazioni di tensione al secondo da ciascuno degli elettrodi impiantati. In un secondo momento, hanno testato e registrato quello che accadeva quando i soggetti del test provavano a richiamare quegli elementi dalla memoria, avendo così a disposizione dati ad alta risoluzione per costruire modelli di attività cerebrale associati al ricordare una parola e a dimenticarla. Il team ha ripetuto l’esperimento due o tre volte con ogni soggetto del test. I dati raccolti sono stati sufficienti per produrre algoritmi specifici e per effettuarne un addestramento. Il risultato è che gli algoritmi sono stati in grado di prevedere quali parole ogni paziente probabilmente avrebbe ricordato, in base alla sola attività che si registrava dagli elettrodi.

 

Ma qui si è inserita un’ulteriore novità: la presenza di questi elettrodi permette non solo di leggere l’attività neurale, può anche stimolarla. Così i ricercatori hanno provato a utilizzare la stimolazione elettrica per “migliorare” il funzionamento del cervello o, per usare le parole di Kahana, a “salvare” la formazione dei ricordi in tempo reale. Nel setup del team della PennU ogni pochi secondi il paziente vedeva una nuova parola e l’algoritmo, appositamente addestrato in precedenza, decideva se il cervello era pronto a ricordarla. Kahna ha riferito ai media, presentando i risultati, che “un sistema a circuito chiuso ci consente di registrare lo stato del cervello del soggetto, analizzarlo e decidere se attivare una stimolazione, il tutto in poche centinaia di millisecondi”. Il punto è che questo sistema ha funzionato. La black box algoritmica dei ricercatori ha migliorato la capacità dei pazienti di richiamare allavmemoria le parole in media del 15%.

Guardando ai precedenti dobbiamo notare che questa non è la prima volta che il laboratorio di Kahana ha esplorato l’impatto della stimolazione cerebrale sulla memoria. L’anno scorso, il gruppo ha dimostrato che gli impulsi degli elettrodi sembravano migliorare o peggiorare il ricordo a seconda di quando venivano emessi. In questo studio, i soggetti del test hanno ottenuto punteggi più alti quando i ricercatori hanno stimolato le regioni del cervello specificatamente connesse alla memoria durante i periodi di scarsa funzionalità. Invece la stimolazione elettrica durante periodi di alto funzionamento ha avuto l’effetto opposto, come se il segnale fosse di contrasto al naturale funzionamento neuronale.

Questa è senza dubbio una scoperta importante anche se a oggi terapeuticamente inutile: i ricercatori hanno solo identificare il nesso tra memoria e stati cerebrali dopo l’esecuzione dei test di memoria. Il vero risultato che permetterebbe di parlare di enhancement cerebrale, dovrebbe passare dalla stimolazione con impulsi durante il processo della memorizzazione.

Quello che emerge dalla ricerca della PennU è che con l’aiuto di algoritmi di machine learning si può pensare, e lo si sta realizzando, un decoder: uno strumento in grado di leggere l’attività elettrica cerebrale e capire se il cervello si trova in uno stato che favorisca l’apprendimento. L’idea è che se il cervello sembra codificare i ricordi in modo efficace sia lasciato funzionare normalmente, se invece non lavora efficacemente, il sistema di Kahna fornisce rapidamente impulsi elettrici per porlo in uno stato di funzionamento a maggiore prestazione. Il tutto sembra un po’, se ci si permette l’analogia, un pacemaker per il cervello.

Chiaramente a questo punto sorgono numerose domande. Se il cervello dei pazienti fosse impiantato con un maggior numero di elettrodi in grado di fornire anche risultati più precisi, gli algoritmi potrebbero decodificare più segnali neuronali, con una maggiore specificità, su scale temporali più piccole? Anche altri avere altri dati potrebbe aiutare: la maggior parte dei pazienti con epilessia può partecipare a studi come questo per un paio di settimane al massimo, il che limita il tempo che i ricercatori possono trascorrere con loro. Un algoritmo di apprendimento automatico addestrato su più di tre sessioni potrebbe funzionare meglio di quelli nell'ultimo studio di Kahana.

 

Ma anche con una maggiore risoluzione e più dati di addestramento, gli scienziati dovranno cimentarsi con le implicazioni epistemologiche ed etiche della cosa. L’uso di algoritmi non trasparenti, le black box del machine learning, per studiare e manipolare i cervelli genera almeno tante perplessità quante sono le speranze o le aspettative. Da un punto di vista epistemologico il sistema di Kahana può migliorare il richiamo di alcune parole in circostanze specifiche, ma non sa esattamente come funzioni il miglioramento ne che cosa si stia realmente facendo. Questa è la natura epistemologica propria del machine learning. Applicarla all’uomo in contesti di ricerca e con risultati incerti fa sorgere tutta la natura etica del problema.

Alcuni propongono di utilizzare algoritmi più complesso di quelli, relativamente semplici, utilizzati fin’ora. Tuttavia il fatto che tecniche di machine learning più complesse si traducano necessariamente in miglioramenti cognitivi maggiori è tutta da dimostrare. Mentre è certo che così facendo si perde ancora di più il controllo di cosa fa la macchina e si espone il paziente a una zona di dubbio ancora maggiore.

 

Il punto è come dare un senso alla decisione della macchina di fornire determinati impulsi elettrici in un modo che possa essere scientifico e accettabile: capibile nel perché e almeno prevedibile in maniera che potremmo definire accettabile in maniera analoga a quanto fatto con altri esperimenti scientifici.

Inoltre dobbiamo chiederci se sia lecito intervenire sulla memoria di terzi: potremmo non solo decidere che la persona ricordi meglio con degli impulsi specifici ma anche utilizzare le nostre macchine per impedire questa memorizzazione. Forse per scopi buoni ma anche, se diventiamo veramente cinici, con scopi cattivi.

Ancora una volta tecnologia, AI e neuroscienze ci chiedono un’etica.

 

 

 

Share on Facebook
Share on Twitter
Please reload