• Paolo Benanti

Ai filantropiche: realizzare sistemi al servizio dell'umanità


Siamo in un momento decisivo per quella che potremmo definire una Intelligent Age - l'età intelligente: l'intelligenza artificiale sarà il grande progresso tecnologico generale del nostro tempo? Potrà aiutarci a risolvere i problemi globali o rimarrà confinata in un ambiente industriale commerciale come strumento di business? Il futuro e l'uso dell'AI dipende da noi. Ma quali condizioni possono dispiegare questa possibile vocazione filantropica per le Ai?

L'intelligenza artificiale nasce - nel senso di essere realizzabile e non solo pensabile teoricamente - grazie agli enormi progressi nella potenza di calcolo e da un'esplosione di dati avvenuta negli ultimi anni. Secondo i maggiori analisti l'AI avrà un impatto significativo su tutte le principali industrie, espandendo l'economia globale di miliardi di dollari. Ma la cosa che sembra ancora più importante è un'altra: l'intelligenza artificiale ha il potenziale per far compiere all'umanità grandi passi in avanti nel risolvere le maggiori sfide della nostra civiltà, dai cambiamenti climatici alla salute pubblica, dai conflitti armati fino alla povertà.

Nonostante le grandi potenzialità, il mondo delle AI si trova in una posizione precaria. Problemi etici, la parzialità degli algoritmi, la tutela dei diritti civili nell'automazione intelligente, lo spostamento della forza lavoro e persino il potere e la percezione delle più grandi aziende tecnologiche della Silicon Valley minacciano non solo la capacità dell'AI di essere uno strumento filantropico ma anche di prosperare come campo tecnologico. Tutti questi vulnus delle AI si sono resi manifesti al grande pubblico nel recente rimprovero pubblico fatto a Facebook nell'audizione davanti al senato a Washington. Se non si faranno passi efficaci per risolvere questi problemi, il mondo delle AI, che è ancora in erba, potrebbe disperdere anni nel suo potenziale di trasformazione: le AI funzionerebbero come un semplice strumento di efficienza aziendale, invece di essere un catalizzatore per risolvere alcuni dei problemi più sfidanti e difficili dell'umanità.

Come possiamo garantire e tutelare questa "vocazione" filantropica delle AI? Non esistono soluzioni che garantiscano un esito umanizzante delle AI ma possiamo immaginare di implementare cinque direttive che ci tutelino il più possibile da effetti disumanizzanti e che in qualche misura possano fungere da "lievito" a questo processo di umanizzazione. Ci piace immaginare queste linee come una sorta di tavola della legge, ecco perché esprimeremo queste linee guida in forma apodittica, cioè come se fossero dei comandamenti.

I - Costruisci un'AI per amplificare non per sostituire Le macchine già guidano camion, ribaltando hamburger e battono i campioni mondiali di scacchi. Man mano che l'automazione diventa più potente, alcuni lavori diventeranno obsoleti, i salari in alcuni settori probabilmente diminuiranno. Sarà fondamentale prepararsi a questi cambiamenti attraverso nuovi modelli di istruzione e mediante la riqualificazione della forza lavoro, parallelamente ad adeguati investimenti e innovazioni nella rete di protezione sociale.

Tuttavia il più grande impatto delle AI nell'industria ci sarà quando queste verranno accoppiate alle capacità umane, non semplicemente se le useremo per sostituirle. Secondo un rapporto di Danny Chui del Mckinsey Global Institute, almeno per il prossimo decennio, ci sono solo pochissime occupazioni che l'AI sostituirà a titolo definitivo.

La ragione di tutto questo sta nella natura complementare del silicio e dell'intelligenza umana. Mentre l'intelligenza artificiale può già svolgere alcuni compiti meglio degli umani, manca di quelle caratteristiche umane come il buon senso e l'intuizione che ci rendono unici. Inoltre l'assenza di queste caratteristiche non è una questione temporanea: le Ai non guadagneranno mai alcuna di queste capacità. Se l'AI può sconfiggere il miglior giocatore di scacchi o di Jeopardy - il gioco che ha reso famoso Watson di IBM - non è ancora ancora lontanamente comparabile alla capacità media che ha un bambino di 7 anni in termini di visione, di linguaggio e di intuizione su come funziona il mondo fisico.

La capacità che ha una AI di inserire, associare e richiamare informazioni trascende ciò che le persone possono fare. Ma la capacità di una persona di utilizzare queste informazioni per ragionare, valutare ed elaborare strategie supera di gran lunga le capacità di qualsiasi macchina. Queste due potenze si devono unire per creare una frontiera nelle capacità umane.

Sembra molto probabile che tutte le aziende che mirano a fare profitti veloci focalizzeranno i propri investimenti nell'AI in processi adatti alla sostituzione dei lavoratori, nella speranza di automatizzare i processi produttivi e così abbattere i costi di manodopera. Questa modalità però non è solo un male per la forza lavoro, è una cattiva strategia aziendale, poiché equivoca completamente il potenziale delle AI.

Radhika Dirks, CEO di XLabs, una società di tecnologia che costruisce progetti "moonshot" nel campo delle AI, progetti cioè che come il lancio sulla luna sono dei tentativi per ottenere dei risultati strabilianti e che sembravano impossibili come arrivare sulla Luna, su questo punto punta al rialzo. Secondo Dirks la più grande opportunità per il mondo delle AI è "non macchine che pensano come noi o fanno ciò che facciamo, ma macchine che pensano in modi che non possiamo concepire e fanno ciò che noi non possiamo". Secondo il CEO di XLabs collaborare con forme di intelligenza non umana è difficile per noi postmoderni, mentre i nostri antenati avrebbero capito tutto bene. "Hanno lavorato con compagni che potevano vedere di più, pensare in modo diverso e percepire attraverso modalità sconosciute. Sapevano che prestare attenzione a un cane oa un cavallo in natura poteva significare la differenza tra la vita e la morte. In definitiva le aziende che non cercheranno di amplificare la propria intelligenza umana con intelligenze automatizzate "diverse" saranno lasciate indietro".

Che cosa possiamo dire a oggi di questa "amplificazione"? Che forme assume? Proviamo a vedere qualche esempio. PathAI, una di queste aziende che credono nell'amplificazione, ha sviluppato un modello di computer vision che, nello screening del carcinoma mammario, ha migliorato l'accuratezza della biopsia dall'85% al 99,5%. Questo significa avere da 68.000 a 130.000 donne in più che ogni anno ricevono diagnosi accurate.

Questi sistemi non hanno questo successo sostituendo i medici, ma aiutandoli, "amplificando" la loro capacità di diagnosi, con informazioni migliori e più velocemente. Il patologo medio vede 50 vetrini per paziente, ciascuno contenente centinaia di migliaia di cellule. Mentre la valutazione di ogni cellula è un compito quasi impossibile, che richiede tempo per un essere umano, l'intelligenza artificiale può rilevare le anomalie e presentarle per la revisione in pochi minuti. I patologi applicano quindi la loro esperienza, il giudizio e la conoscenza olistica del paziente per valutare ciascun caso.

Ma per quanto riguarda i lavoratori in prima linea? È intuitivo che i medici non vengano sostituiti dalle macchine, ma i lavoratori del servizio clienti o che manipolano i prodotti lungo la linea di produzione sembrano più esposti. Anche in questa parte della catena di produzione economica, l'intelligenza artificiale può avere un grande impatto quando è complementare alle abilità naturali delle persone, non in sostituzione di queste.

Dennis Mortensen, un imprenditore nel campo delle AI, indica il venditore ideale di oggi. Gran parte delle componenti più ripetitive delle prospettive di ricerca di vendita, l'inserimento di dati su "lead" e l'invio di e-mail di follow-up saranno presto eseguite da AI. Secondo Mortensen, l'intelligenza artificiale non è solo un incentivo alla produttività, è un liberatore, consentendo al venditore di trascorrere il proprio tempo sulle componenti creative, emotive ed empatiche del lavoro. Per questo motivo, descrive l'intelligenza artificiale come capace di renderci "più umani" (questa modalità è, per inciso, un'ottima strategia di vendita...).

L'intelligenza artificiale può persino aiutare le aziende a riqualificare più efficacemente la propria forza lavoro, un processo cruciale in quanto i progressi tecnologici trasformano le competenze necessarie al lavoro. Walmart, UPS e la società di ascensori ThyssenKrupp sono alcune aziende che stanno già sfruttando l'intelligenza artificiale per "potenziare" i loro dipendenti. I tecnici degli ascensori utilizzano le cuffie intelligenti in realtà aumentata, che proiettano schemi e tutorial sui macchinari reali di fronte a loro, per imparare come fare manutenzione ai nuovi modelli direttamente sul campo.

II - Rendi l'AI spiegabile Per qualsiasi nuova tecnologia, in particolare quelle che trasformano la vita rapidamente come l'intelligenza artificiale, conquistare la fiducia del pubblico è cruciale per il successo e al diffusione.

Questa è una grande sfida: gran parte dell'AI - in particolare i sistemi di "deep learning" che simulano le reti neurali del cervello umano - sono così complessi che persino i loro progettisti non possono spiegare come questi sistemi arrivino alle decisioni. Ad aggravare questo aspetto c'è che, per aziende tecnologiche come Facebook, gli algoritmi non solo non sono trasparenti ma sono trattati come segreti commerciali e custoditi gelosamente. Questi fattori hanno dato origine al termine "black-box algoritmiche".

Un'AI opaca sembra innocua nel raccomandare ciò che dovresti guardare su Netflix. Ma l'AI sta anche dando forma a decisioni in cui sono in gioco vite e mezzi di sussistenza: condanne penali, affidabilità per ricevere un prestito, assunzioni, licenziamenti, diagnosi mediche e trasporti autonomi. Se un algoritmo negasse alla mia famiglia un prestito cruciale, vorrei capire perché. Ciò solleva una serie di domande: come può qualcuno contestare un risultato quando non è disponibile la giustificazione? Come possiamo risolvere i problemi che sorgono negli algoritmi se non ne comprendiamo l'origine? E chi è responsabile quando qualcosa va storto?

Uno dei maggiori finanziatori mondiali della ricerca tecnologica sta prendendo molto sul serio il problema: il Dipartimento della Difesa degli Stati Uniti. Il DOD sta investendo molto in AI spiegabili (le eXplanable AI o XAI). Questo sviluppo è affidato al DARPA, lo stesso laboratorio di R&D che ha dato vita al predecessore di Internet. Il loro scopo è quello di produrre modelli AI "glass box" che siano, cioè, interpretabili in tempo reale da "esseri umani nel loop" rendendoli in grado di porre segnali d'attenzione quando la performance delle AI potrebbe non essere attendibile.

Anche le startup ci stanno lavorando. Factmata accoppia l'AI con intuizioni umane per aiutare le società di mediazione a identificare e fermare la diffusione di fake-news e l'incitamento all'odio online. I loro algoritmi sono completamente strutturati per la loro comunità e invitano gli utenti a informare la progettazione e correggere gli errori non appena si presentano. Dhruv Gulati, CEO di Factmata, afferma che "solo un algoritmo e una metodologia totalmente attendibili e spiegabili per la convalida, che chiunque può interrogare e criticare", è adatto per un'azienda il cui scopo è far crescere la fiducia online.

Il settore pubblico, che esercita il duplice strumento di un vasto potere d'acquisto e di regolamentazione, sta spingendo verso una maggiore trasparenza. Dopo che ProPublica trovò che il pregiudizio razziale era in agguato negli algoritmi usati nel sistema di giustizia criminale, la città di New York ha messo al bando gli algoritmi di tipo black-box in tutti i suoi servizi pubblici. Iniziative simili sono in corso a livello nazionale nel Regno Unito.

Il Protocollo sulla protezione dei dati generali dell'Unione europea (GDPR), che entrerà in vigore alla fine di questo mese di maggio, è ben noto nei circoli della tecnologia e della politica per la sua legge sul diritto all'oblio, pensato per mostrare ai cittadini come le imprese rintracciano e utilizzano i loro dati personali. Meno noto è che include un "Diritto alla spiegazione", che garantisce ai cittadini dell'UE il diritto di non essere soggetti a decisioni prese da sistemi automatizzati. Le imprese in violazione di questa regola potrebbero essere soggette a sanzioni fino al 4% delle loro entrate annuali. Sebbene si applichi solo nell'UE, molte delle più grandi aziende tecnologiche del mondo impiegano gli stessi sistemi in tutti i loro mercati, invitando le società più influenti a faticare per conformarsi. Un recente sondaggio di aziende interessate ha dimostrato che un terzo di loro possedeva sistemi black-box. Quello che abbiamo davanti sembra prospettarsi come un anno interessante.

III - Diversifica i creatori di AI Mentre le decisioni guidate dalla macchina possono evocare la precisione, tutte le AI sono basate su dati forniti dagli esseri umani e l'intelligenza artificiale è efficace solo quanto il set di dati su cui è formata. Questi dati provengono dalla nostra società, e la nostra società, purtroppo, è piena di pregiudizi.

Senza una rigorosa revisione dei dati di addestramento, gli algoritmi possono codificare o persino includere i pregiudizi nella nostra cultura. Prendiamo quanto accade durante un processo di assunzione. Se un responsabile delle assunzioni esegue una ricerca su una piattaforma social che raccoglie profili professionali (si pensi a LinkedIn) per un ruolo di "ingegnere del software" è probabile che veda una prima pagina di candidati che sono tutti uomini principalmente caucasici, poiché statisticamente sono la maggior parte dei candidati.

Tuttavia quando vede il profilo di uno di questi candidati, gli algoritmi sottostanti la piattaforma interpretano questo come un indicatore che questo tipo di candidato è "più rilevante" per il selezionatore, producendo un ordine di risultati che mette quelli con caratteristiche etniche diverse più in fondo. Di conseguenza, mentre il reclutatore non ha cattive intenzioni e esistono candidati di vari background culturali ed etnici, si può scorrere decine di candidati senza vederne comparire uno. Casi come questo rendono cruciale che i progettisti delle AI rappresentino la diversità delle prospettive necessarie per identificare e sradicare la diversità di pregiudizi attraverso classe, genere, razza e competenza.

Ma sconfiggere il pregiudizio è solo una delle ragioni della diversità nell'intelligenza artificiale. Si tratta anche di indicare l'intero spettro di problemi che le persone devono affrontare.

Quando Timnit Gebru, una ricercatrice che si occupa di intelligenza artificiale e fondatrice di Black in AI, ha partecipato alla sua prima conferenza AI, cinque dei 1.000 partecipanti erano persone di colore. Timnit ha raccontato questa assenza come "terrificante" perché, come dice lei, c'è grande "bisogno di persone che hanno questa esperienza sociale di come stanno le cose". Tra le righe qui c'è un punto che potrebbe essere sociologicamente ovvio: gli ingegneri maschi bianchi di provenienza socioeconomica privilegiata non è probabile che costruiscano AI per risolvere problemi che non hanno mai sperimentato.

Alcune delle principali menti dell'intelligenza artificiale si sono unite a Gebru per cambiare le cose. Un esempio: il Dr. Fei Fei Li, un rinomato scienziato che gestisce il laboratorio di intelligenza artificiale di Stanford, ha recentemente lanciato AI4ALL, per portare donne e persone di colore in questo campo. Il suo ragionamento è profondamente scientifico: la ricerca ha dimostrato più volte che team diversi creano le soluzioni più creative ai problemi.

Progettare le AI per farle essere inclusive non è solo un'aspirazione ideale, è un imperativo aziendale. Quando l'intelligenza artificiale è costruita pensando ai gruppi meno abbienti, crea sia nuove opportunità imprenditoriali sia nuove opportunità.

Guardiamo alle donne e alla gestione del denaro. Le donne ora controllano il 39% delle attività di investimento negli Stati Uniti, tuttavia non esiste un settore in cui le donne siano più insoddisfatte dei servizi finanziari. Il campo storicamente dominato dagli uomini inquadra le scelte finanziarie attraverso la lente della competizione, del potere e della ricchezza, ma le donne tendono a percepire gli investimenti intorno a risultati a lungo termine, a prendersi cura dei propri cari e alla sicurezza. Una startup, Joy, sta usando l'intelligenza artificiale per colmare questa lacuna, coinvolgendo le donne sui valori che sottendono i loro obiettivi finanziari, quindi sfruttando queste informazioni per informare il coaching personalizzato. Un altro esempio viene dall'assistenza sanitaria nei paesi in via di sviluppo. In Ruanda, dove il sistema sanitario ha pochi medici specialisti e limitate capacità operative, Babylon Health ha utilizzato l'intelligenza artificiale per abbinare i pazienti con medici all'estero per la consultazione digitale a distanza. Hanno anche introdotto un sistema di triage basato su AI per migliorare i risultati di cure urgenti. Nei primi sei mesi del rollout, oltre il 10% della popolazione ruandese si era iscritta.

IV- Difendi le AI dalle Big-Tech Un altro ostacolo al potenziale delle AI è il crescente monopolio delle più grandi aziende tecnologiche del mondo in un campo ceh è in rapida crescita. Come Ryan Kottenstette ha delineato di recente in Techcrunch, Apple, Alphabet (Google), Facebook, Amazon e Microsoft rappresentano solo il 5% del PIL degli Stati Uniti, "tuttavia stanno rapidamente acquistando società di AI e indirizzandole a concentrarsi in modalità di ricerca e sviluppo per l'IT, piuttosto che costruire applicazioni AI per problemi specifici dell'industria non tecnologica".

Ciò significa che le menti più brillanti che lavorano sulla più grande tecnologia general purpose del nostro tempo operano al servizio di quattro o cinque modelli di business, spesso si occupano di applicazioni incrementali, come il targeting degli annunci, che non stanno chiaramente migliorando la nostra società.

Ad aggravare questa sfida c'è il fatto che l'intelligenza artificiale ha le caratteristiche di una tecnologia winner-takes-all. Poiché l'intelligenza artificiale è alimentata dai dati, le aziende con più dati sono nella posizione migliore per vincere la corsa. Per questo motivo, Yoshua Sergei, uno dei creatori di machine learning, ha recentemente sollevato le sopracciglia sostenendo la rottura della grande tecnologia, nonostante abbia lavorato in una di queste società per gran parte della sua carriera.

Le alternative stanno aumentando. OpenAI, un'organizzazione non profit con un focus esplicito sullo "sviluppo sicuro dell'AI", ha messo in campo alcuni degli scienziati più rispettati nel settore, insieme a miliardi di dollari di imprenditore come Elon Musk e Reid Hoffman di LinkedIn. Il MIT ha recentemente annunciato un investimento in 10 anni da 240 milioni di dollari nella ricerca delle AI (in collaborazione con IBM).

V- Cerca di realizzare AI che risolvano i maggiori problemi dell'umanità Dirks definisce le AI "tecnologie super-accentuante": non solo genera nuovi campi di indagine e nuove soluzioni industriali, ma migliora se stessa con nuove scoperte. In altre parole, ogni applicazione AI può rendere la tecnologia ancora più potente.

Ma realizzare questa promessa è possibile solo se smettiamo di applicare questa tecnologia trasformante al business e a problemi incrementali.

La superpotenza delle AI sta elaborando variabili che sono troppo numerose e mutevoli per essere gestite da una mente umana. Contemporaneamente identifica modelli per dare forma a nuove azioni. È tempo di sfruttare questo potere per le più grandi sfide dell'umanità, non solo perché è giusto, ma perché catturerà l'immaginazione di una nuova generazione di imprenditori e innalzerà la tecnologia a nuovi livelli.

Dove ci sono dati e dove esiste una sfida importante, l'AI può creare e sviluppare soluzioni. Esempi di questo genere, che al momento sono solo promesse, abbondano:

- prevedere epidemie prima che accadano (Università della Georgia e della California, Massey University)

- accelerare la scoperta di farmaci per salvare vite umane (Atomwise è una delle tante startup nel regno)

- modellando e prevenendo i conflitti violenti in tutto il mondo (Duke University's Ward Lab)

- combattendo la depressione e il suicidio attraverso l'elaborazione del linguaggio naturale (Woebot)

- fermando la tratta di esseri umani e il lavoro forzato attraverso la trasparenza della catena di approvvigionamento (Working Capital Fund)

L'intelligenza artificiale è nella sua infanzia. Siamo all'inizio di un'ondata senza precedenti di cambiamenti nella nostra società, nell'economia e nelle vite personali. Ma sono già emersi dei rischi che potrebbero portare l'intelligenza artificiale nella direzione sbagliata: pregiudizi, mancanza di spiegabilità, industria basata sulla sostituzione e giganti della tecnologia che limitano l'ingegnosità a piccoli problemi locali.

Per il bene della società, dell'economia e della nostra specie, dobbiamo assicurarci che l'AI affronti sfide grandi come la potenza che possiede.

#Etica #AI #tecnologia #algoritmo #Design