I cattivi guidatori facciano attenzione: l'auto a guida autonoma basata sulle AI del MIT valuta quanto un guidatore è egoista sulla strada. La tecnologia del MIT potrebbe migliorare il modo in cui i veicoli a guida autonoma rispondono ai conducenti umani che li circondano. O potrebbero essere uno strumento formidabile nelle mani delle assicurazioni per classificare i guidatori e calcolare tariffe sempre più sartoriali. Una tecnologia che promette ma anche interroga. Vediamone i dettagli.
I ricercatori del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT hanno sviluppato un sistema di intelligenza artificiale per auto a guida autonoma che classifica le personalità sociali dei conducenti umani per migliorare il processo decisionale in situazioni stradali difficili. Nessun essere umano può definirsi tale senza un Carattere di Personalità: distintivo, riconoscibile, caratteristico e difficilmente mutabile. Poter permettere ad un sistema di AI che tipo di personalità ha una persona sarebbe un elemento decisamente rivoluzionario per l'interazione tra uomo e macchina. La macchina, progettata e standardizzata, sarebbe capace di adattarsi al singolo in una maniera maggiormente efficace e personalizzata.
I ricercatori del MIT ritengono che questo nuovo algoritmo si presta a diversi usi. Per esempio potrebbe anche essere usato per addestrare auto a guida autonoma per mostrare un comportamento più umano nel guidare. Una macchina di questo tipo avrebbe un comportamento che altre persone sulla strada potrebbero capire più facilmente evitando così incidenti dovuti al fatto che la parte umana non riesce a intuire il comportamento della macchina.
Questo algoritmo di AI nasce dall'idea che le auto a guida autonoma possono essere programmate per classificare le personalità sociali di altri conducenti. Questa classificazione consente al veicolo di fare previsioni migliori sui pericoli imminenti.
I ricercatori usano l'"orientamento al valore sociale" per valutare quanto siano egocentrici o "prosociali" gli altri driver.
Secondo lo psicologo e sociologo della personalità John Holland, sebbene esistano molte teorie sulla personalità, riteneva che sei tratti distintivi della personalità fossero fondamentali per descrivere una persona. DI questi uno è il tratto sociale. Per Holland le persone con una personalità sociale ottengono soddisfazione dall'interazione con altre persone. A loro piace parlare, la compagnia di altre persone e, molte volte, anche la vicinanza fisica. Le persone sociali non solo apprezzano le persone, ma tendono anche a essere utili, e sono anche pensate come "aiutanti" (helpers). Partendo da questa visione dell'agire umano e individuando stili di guida che corrispondono a tratti di personalità, il sistema genera traiettorie di guida in tempo reale per auto a guida autonoma.
Il sistema potrebbe essere utilizzato per affrontare la discrepanza nei comportamenti e nelle aspettative tra conducenti umani e veicoli autonomi.
Mentre i guidatori umani a volte corrono rischi calcolati per evitare una situazione, le auto a guida autonoma sono programmate per essere caute e obbedire alle regole della strada, in particolare agli incroci difficili da percorrere e agli stop a quattro vie. Un problema centrale con le auto a guida autonoma di oggi è che sono programmate per assumere che tutti gli umani agiscano allo stesso modo.
Ciò significa che, tra le altre cose, sono piuttosto conservatori nel loro processo decisionale alle fermate a quattro vie e ad altre intersezioni.
Sebbene questa precauzione riduca la possibilità di incidenti mortali, crea anche colli di bottiglia che possono essere frustranti per gli altri conducenti, per non parlare della loro previsione del comportamento della macchina.
Questa cautela potrebbe spiegare l'elevato numero di incidenti con conducenti umani che guidano auto. È stata questa la causa dell'incidente che ha visto per la prima volta coinvolto un veicolo a guida autonoma di Apple l'anno scorso mentre si stava lentamente immettendo su un'autostrada.
"La creazione di un comportamento più simile all'uomo nei veicoli autonomi (AV) è fondamentale per la sicurezza dei passeggeri e dei veicoli circostanti, poiché comportarsi in modo prevedibile consente agli esseri umani di comprendere e rispondere adeguatamente alle azioni dell'AV", ha affermato Wilko Schwarting, autore principale del nuovo paper che documenta questa ricerca.
L'algoritmo che hanno sviluppato dà alle persone punteggi per le qualità cooperative, altruistiche o egoistiche basate su quanto il conducente dimostra cura di se stesso rispetto a cura degli altri.
L'approccio si basa anche sulla psicologia sociale e sulla teoria dei giochi per comprendere le situazioni sociali tra i giocatori concorrenti.
Ad esempio, nel caso di un'auto che si unisce ad una strada con un cambio di corsia, i due risultati sono di procedere se ci si trova di fronte a qualcuno cooperativo o di desistere se classificato come egoistico. I ricercatori hanno scoperto che le auto che cercano di cambiare corsia si comportano in modo più competitivo rispetto a quelle già presenti in corsia.
Il sistema è stato anche addestrato a capire quando è appropriato che un'auto a guida autonoma mostri un comportamento più deciso, come quando si fa un cambio di corsia in un traffico intenso.
I ricercatori del MIT affermano che il sistema non è ancora pronto per strade reali. Tuttavia, inizieranno presto a esplorare come funziona il loro modello per pedoni, biciclette e altri utenti della strada. Intendono inoltre utilizzare l'orientamento al valore sociale per assistere il processo decisionale nei robot domestici.
Sostengono che il sistema potrebbe anche essere utile per i conducenti umani, fornendo una seconda serie di occhi in grado di rilevare un guidatore aggressivo in un punto cieco. Il sistema potrebbe fornire un avviso nello specchietto retrovisore, consentendo al guidatore di regolare i propri schemi di guida.
Al di là degli usi pratici di questo algoritmo mi sembra interessante notare come per gli utilizzi nel mondo reale dell'AI si debba procedere in una duplice direzione. Da un lato bisogna aumentare le capacità cognitive della macchina per compiere task sempre più difficili e complessi.
Dall'altra la macchina cui vogliamo dare la capacità di azione sociale deve avere capacità sociali: interpretare e adattarsi agli altri attori sociali. Specie quelli umani. Il nuovo algoritmo del MIT contribuisce proprio a questa capacità.
Legata a questa direzione di sviluppo però ci sono alcune perplessità di cui tener conto. Avere strumenti sempre più sofisticati per comprendere e anticipare il comportamento umano ci fa chiedere se non si ail caso di regolare i limiti di utilizzo e di applicazione di questi strumenti. Un uso improprio o malevolo di questi strumenti può portare a conseguenze terribili.
L'AI ha sempre più bisogno di essere pensata eticamente.