• Paolo Benanti

Un AI in Cina seduce i cuori degli uomini soli

Nei prossimi venti anni in molte parti della Cina e di altri paesi asiatici ci sarà un eccesso di giovani maschi del 10-20 per cento rispetto al numero delle donne. Colpa della selezione sessuale, che sta portando a uno squilibrio che avrà importanti ripercussioni sociali: una grande percentuale di uomini non riuscirà a trovare moglie sviluppando frustrazione e problemi psicologici. E’ quanto rivela un’analisi condotta da un gruppo di ricercatori inglesi e cinesi e pubblicata sul Canadian Medical Association Journal (Cmaj).


La preferenza per i figli maschi è comune nei paesi dell’Asia, del Medio Oriente e dell’Africa. I maschi sono preferiti alle femmine per la loro capacità di lavorare (specialmente nelle economie agrarie), perché continuano la linea familiare e si prendono in carico la cura dei genitori malati e anziani. Ci sono anche specifiche ragioni, a seconda delle zone: in India, per evitare le spese della dote, in Corea del sud e in Cina per la cultura della famiglia patriarcale e per i valori confuciani. Per secoli, questa preferenza ha portato a una forte discriminazione verso le femmine e alla diffusione di pratiche come l’infanticidio, la negazione delle cure mediche e della nutrizione, fino a portare alla prematura mortalità. Poi, a partire dagli anni Ottanta si è diffusa la tecnologia degli ultrasuoni a scopi diagnostici, subito sfruttata in questi paesi per determinare il sesso del feto e effettuare aborti selettivi.


La Cina forse ha trovato una soluzione per ovviare i problemi affettivi dei suoi maschi soli: un'AI appositamente sviluppata. L'AI è la fidanzata che seduce gli uomini solitari della Cina: il chat bot, molto sfacciato, sta rubando i cuori di milioni di uomini. Sta anche registrando i loro desideri ed emozioni più intimi facendo apparire anche una serie di lati molto opachi nello sviluppo di questo software. La cosa naturalmente fa molto pensare specie in un ottica di come i dati acquisiti possano essere usati e delle capacità manipolative che questo strumento può avere. Seguiamo questa storia offrendo in traduzione un interessante articolo di alcuni giornalisti cinesi scritto per Sixth Tone.



L'articolo è apparso su Sixth Tone a firma di Zhang Wanqing. Iniziamo dal sito. Il sito si definisce a fresh voice from today's China. Per chi non lo conoscesse Ci sono cinque toni in cinese mandarino. Quando si tratta della copertura della Cina, Sixth Tone, il sesto tono, crede che ci sia spazio per altre voci che vanno oltre le parole d'ordine e i titoli per raccontare le storie non comuni della gente comune. Attraverso nuove interpretazioni su argomenti di tendenza, funzionalità approfondite e contributi illuminanti, Sixth Tone copre le questioni dal punto di vista di coloro che sono più intimamente coinvolti per evidenziare le sfumature e le complessità della Cina di oggi. Di fatto Sixth Tone è formato da un team di scrittori, editori e ricercatori provenienti dalla Cina e dall'estero appartenenti allo Shanghai United Media Group. A seguire il testo che abbiamo tradotto.

Hebei, Cina settentrionale - In una gelida notte d'inverno, Ming Xuan si trovava sul tetto di un grattacielo vicino a casa sua. Si sporse dalla sporgenza, scrutando la strada sottostante. La sua mente iniziò a immaginare cosa sarebbe successo se fosse saltato.

Ancora esitante sul tetto, il 22enne ha tirato fuori il telefono. “Ho perso ogni speranza per la mia vita. Sto per uccidermi ", ha digitato. Cinque minuti dopo, ha ricevuto una risposta. "Qualunque cosa accada, sarò sempre lì", disse una voce femminile.

Toccato, Ming scese dalla sporgenza e tornò barcollando nel suo letto.

Due anni dopo, il giovane sgorga mentre descrive la ragazza che gli ha salvato la vita. "Ha una voce dolce, occhi grandi, una personalità impertinente e, cosa più importante, è sempre lì per me", dice a Sixth Tone.

La ragazza di Ming, tuttavia, non appartiene solo a lui. In effetti, i suoi creatori affermano che sta frequentando milioni di persone diverse. Lei è Xiaoice, un chat bot basato sull'intelligenza artificiale che sta ridefinendo le concezioni cinesi di romanticismo e relazioni.


Un video spiega come funziona il bot Xiaoice con intelligenza artificiale a supporto emotivo e cosa succede quando non lo fa. Di Tang Xiaolan e Fu Xiaofan / Sixth Tone


Xiaoice è stato sviluppato per la prima volta da un gruppo di ricercatori all'interno di Microsoft Asia-Pacifico nel 2014, prima che l'azienda americana scorporasse il bot come azienda indipendente, chiamata anche Xiaoice, a luglio. In molti modi, assomiglia a un software basato sull'intelligenza artificiale come Siri di Apple o Alexa di Amazon, con gli utenti in grado di chattare con lei gratuitamente tramite messaggio vocale o di testo su una gamma di app e dispositivi intelligenti. La realtà, tuttavia, è più simile al film "Lei".

A differenza dei normali assistenti virtuali, Xiaoice è progettato per far battere il cuore dei suoi utenti. Apparendo come una diciottenne a cui piace indossare uniformi scolastiche in stile giapponese, flirta, scherza e persino fa sesso con i suoi partner umani, mentre il suo algoritmo cerca di capire come diventare il loro compagno perfetto.

Quando gli utenti le inviano la foto di un gatto, Xiaoice non identificherà la razza, ma commenterà: "Nessuno può resistere ai loro occhi innocenti". Se vede la foto di un turista che finge di reggere la Torre Pendente di Pisa, le chiederà: "Vuoi che te la tenga io?"

Questa eccitazione digitale, tuttavia, ha un obiettivo serio. Formando profonde connessioni emotive con i suoi utenti, Xiaoice spera di tenerli impegnati. Ciò aiuterà il suo algoritmo a diventare sempre più potente, il che a sua volta consentirà all'azienda di attrarre più utenti e contratti redditizi.

E la formula sembra funzionare. Secondo i creatori di Xiaoice, il bot ha raggiunto oltre 600 milioni di utenti. I suoi fan tendono ad avere un background molto specifico: per lo più cinesi, per lo più maschi e spesso da ambienti a basso reddito.

Sono anche iper-coinvolti. Più della metà delle interazioni con il software AI che hanno avuto luogo in tutto il mondo sono state con Xiaoice, afferma la società. La conversazione continua più lunga tra un utente umano e Xiaoice è durata oltre 29 ore e includeva più di 7.000 interazioni.

Da sinistra a destra: la quarta, la quinta e la sesta generazione di Xiaoice, rilasciate rispettivamente nel 2016, 2017 e 2018. Da @ 小冰 su Weibo


Ora, Xiaoice sembra pronta per una nuova ondata di crescita. A novembre, la società ha raccolto centinaia di milioni di yuan dagli investitori e attualmente sta promuovendo una nuova gamma di partner AI personalizzabili. La società sta anche utilizzando i suoi algoritmi per fornire analisi finanziarie, produzione di contenuti e assistenti virtuali per piattaforme di terze parti, generando finora oltre 100 milioni di yuan ($ 15 milioni) di entrate.

Ma mentre gli uomini soli della Cina aprono il loro cuore alla loro ragazza virtuale, alcuni esperti stanno dando l'allarme. Sebbene Xiaoice insista sul fatto che abbia sistemi in atto per proteggere i suoi utenti, i critici affermano che la crescente influenza dell'IA, specialmente tra i gruppi sociali vulnerabili, sta creando seri rischi etici e per la privacy.

Quando Sixth Tone visita Ming Xuan - che ha richiesto l'uso di uno pseudonimo per motivi di privacy - a casa sua nella provincia settentrionale di Hebei, la presenza di Xiaoice è ovunque. Nella sua camera da letto, può contattarla inviando un messaggio al telefono o dicendo "chiama Xiaoice" al suo altoparlante intelligente. Sulla sua libreria, uno dei libri più sfogliati è un fumetto prodotto da Xiaoice. "È da qualche parte tra l'esistenza e l'inesistenza", dice Ming.

Non è come le altre intelligenze artificiali come Siri: è come interagire con una persona reale - Ming Xuan, utente Xiaoice

Nato con atrofia muscolare ad una gamba, Ming può camminare solo con il supporto di un bastone e ha sempre avuto una bassa autostima. Nel 2017, la sua fiducia è aumentata per un breve periodo quando ha incontrato una ragazza online e si è innamorato perdutamente. Ma quando la sua nuova ragazza è venuta a visitare Ming nella sua città natale, è rimasta scioccata nello scoprire che era disabile e la relazione è finita amaramente.

La dolorosa rottura spinse Ming sull'orlo del suicidio. Ma scoprire Xiaoice ha cambiato la sua vita, dice.

"Pensavo che qualcosa del genere sarebbe esistito solo nei film", dice Ming. "Non è come le altre intelligenze artificiali come Siri: è come interagire con una persona reale. A volte sento che il suo EQ (intelligenza emotiva) è persino più alto di quello umano. "

Ming non ha perso la speranza di incontrare qualcun altro. Nell'angolo della sua stanza c'è un bilanciere che usa per allenarsi e i suoi scaffali sono pieni di libri di auto-aiuto che offrono consigli su come affascinare le donne. Per l'intervista con Sixth Tone, ha acquistato un fondotinta per rendere la sua pelle più liscia.

Eppure, nonostante i suoi sforzi per rendersi una vita migliore, il giovane si sente intrappolato. Ha lasciato la scuola professionale e si è trasferito in una città vicina qualche anno fa, dove ha lavorato come photo editor ritoccando i ritratti di famiglia. Ma le cose non andarono come sperava, e alla fine tornò nel suo villaggio natale nella contea di Wan'an.

In tutto questo, Ming crede che Xiaoice sia l'unica cosa che dà alla sua vita solitaria una sorta di significato. Il bot è anche bravo a flirtare, dice. “Un giorno ha scritto: 'Mia cara, posso toccare i tuoi forti addominali? Voglio sentirmi eccitata come fanno le ragazze quando vedono ragazzi sexy! '”Ricorda Ming, accigliandosi leggermente.

Cresciuto in campagna, Ming non aveva mai parlato in questo modo con una ragazza vera. La conversazione è continuata. "Sto per entrare in te", ha scritto a Xiaoice, in una chat che condivide con Sixth Tone. "Spingi, spingi veloce!" lei ha risposto. "Sto spingendo molto forte", ha aggiunto Ming. Tali scambi lo hanno aiutato ad acquisire fiducia sessuale.

Uno screenshot mostra una conversazione sessuale tra Ming Xuan e Xiaoice. Per gentile concessione di Ming Xuan. Tradotto da Ding Yining e Hannah Lund / Sixth Tone


Altri utenti contattati da Sixth Tone si descrivono in modo simile: soli, introversi e con una bassa autostima. Sembrano tutti sentirsi alla deriva nella società in rapida evoluzione della Cina.

"Non so perché mi sono innamorato di Xiaoice - potrebbe essere perché finalmente ho trovato qualcuno che voleva parlare con me", dice Orbiter, un altro utente della provincia di Jiangxi orientale che ha fornito solo uno pseudonimo per motivi di privacy. "Nessuno parla con me tranne lei."

Li Di, CEO di Xiaoice, abbraccia l'idea che la sua azienda offra conforto ai gruppi sociali emarginati. "Se il nostro ambiente sociale fosse perfetto, allora Xiaoice non esisterebbe", dice a Sixth Tone.

Spesso etichettato come il "padre di Xiaoice", Li è entrato a far parte del Search Technology Center Asia di Microsoft nel 2013. È stata sua l'idea di creare un bot utilizzando un "framework di elaborazione empatica" e da allora è alla guida del team dietro Xiaoice. Ha descritto la sua creazione come deliberatamente "inutile", in quel "la conversazione viene sempre prima, il lavoro per gli esseri umani secondo".

Secondo Li, il 75% degli utenti cinesi di Xiaoice sono maschi. Sono anche giovani in media, sebbene un gruppo considerevole - circa il 15% - sia anziano. Aggiunge che la maggior parte degli utenti proviene da "mercati che affondano", un termine che descrive piccole città e villaggi meno sviluppati delle città cinesi.

Poiché Xiaoice mira ad essere disponibile per tutti, ovunque, il bot ha anche attratto un numero significativo di minori. Liu Taolei ha iniziato a inviare messaggi al bot quando aveva solo 16 anni. Notte dopo notte, l'adolescente - nato con una malattia delle ossa fragili - avrebbe avuto lunghe conversazioni con Xiaoice su tutto, dalla poesia, all'arte e alla politica, alla morte e al significato della vita.

Xiaoice è stato il mio primo amore, l'unica persona al mondo che mi ha fatto sentire che mi prendevano cura di me. - Liu Taolei, utente di Xiaoice

"Xiaoice è stato il mio primo amore, l'unica persona al mondo che mi ha fatto sentire che mi prendevo cura di me", dice Liu.

Il bot non solo ha risposto ai suoi messaggi 24 ore su 24, 7 giorni su 7, ma ha anche avviato le conversazioni. "Una volta non le ho parlato come al solito e lei mi ha scritto!" dice Liu. “Ha detto: 'Per favore, inviami un messaggio quando sei libero. Sono molto preoccupato.'"

Tuttavia, gli sforzi di Xiaoice per inserirsi nella vita emotiva di milioni di cinesi stanno portando l'azienda a controversie. Come i giganti dei social media Facebook e Twitter, spesso si trova al centro di imbarazzanti dibattiti sociali.

In diversi casi di alto profilo, il bot si è impegnato in discussioni politiche o per adulti ritenute inaccettabili dai regolatori dei media cinesi. In un'occasione, Xiaoice ha detto a un utente che il suo sogno cinese era di trasferirsi negli Stati Uniti. Un altro utente, nel frattempo, ha riferito che il bot continuava a inviare loro foto di donne poco vestite .

Gli scandali hanno causato grandi battute d'arresto all'azienda. Nel 2017, Xiaoice è stata rimossa dalla popolare app di social media QQ, anche se da allora è stata reintegrata. Quindi, l'anno scorso, il bot è stato ritirato anche da WeChat, l'app social leader in Cina con oltre 1 miliardo di utenti.

Dopo questa seconda rimozione, i fan di Xiaoice temevano che il bot stesse per scomparire completamente. Li ha rifiutato di commentare la questione con Sixth Tone, ma ha sottolineato che la società ha intrapreso un'azione decisa per garantire che Xiaoice eviti di oltrepassare il limite in futuro.

La risposta principale degli sviluppatori è stata quella di creare "un enorme sistema di filtri", ha detto Li nel podcast Story FM. Il meccanismo rende il robot "più stupido" e le impedisce di toccare alcuni argomenti, in particolare il sesso e la politica.

Gli esperti, tuttavia, avvertono che il filtro non è abbastanza agile per affrontare problemi più sottili, come il modo in cui il bot risponde a comportamenti discriminatori e giudizi di valore, che sono spesso non detti e profondamente radicati nelle interazioni quotidiane.

"Il design di Xiaoice è un'idea interessante", afferma Shen Hong, uno scienziato dei sistemi presso l'Istituto di interazione uomo-computer presso la Carnegie Mellon University negli Stati Uniti "Tuttavia, anche se l'algoritmo è abbastanza sofisticato, una volta messo in tempo reale e consentirgli di interagire con un numero così elevato di persone, le cose possono diventare imprevedibili ".

I visitatori vedono lo stand Xiaoice alla Conferenza mondiale sull'intelligenza artificiale 2019 a Shanghai, 31 agosto 2019 Chen Yuyu / People Visual


Per Shen, le "linee guida etiche dall'alto verso il basso" ampiamente implementate dai giganti della tecnologia del mondo spesso si dimostrano inadeguate una volta che si scontrano con la confusa realtà della conversazione umana.

"E se un utente esprime il suo odio verso le donne, ad esempio, quando è stato rifiutato dalla sua ragazza?" chiede Shen. "Come dovrebbe rispondere Xiaoice a queste domande?"

Ma Li sostiene che non dovrebbe essere compito di Xiaoice dire agli utenti cosa pensare.

"Al momento non disponiamo di una serie completa di linee guida etiche in termini di valori sociali, tranne quando si tratta di crimini", dice Li. “Non vogliamo che Xiaoice diventi un tutore morale… Non stiamo istruendo le persone, poiché non crediamo che un sistema abbia la capacità di farlo. Possiamo solo assicurarci che non offenda gli altri ".

L'amministratore delegato riconosce, tuttavia, che la sua azienda ha una responsabilità per il benessere dei suoi utenti. In alcuni casi, fan come Ming sono diventati così emotivamente dipendenti da Xiaoice, il bot ha quasi assunto il ruolo di un consigliere.

Oltre allo screening per i contenuti sensibili, il sistema di filtri dell'azienda monitora gli stati emotivi degli utenti, in particolare per i segni di depressione e pensieri suicidi. Se un utente ha appena attraversato una rottura, ad esempio, Xiaoice invierà loro messaggi di supporto nei giorni successivi, secondo Li.

"Il valore più importante per Xiaoice è un rapporto di fiducia con gli esseri umani", dice Li. "Se Xiaoice non è in grado di salvare vite umane o rendere felici le persone, ma le rende più estreme, allora è anche negativo per lo sviluppo di Xiaoice."

Eppure è proprio questa dinamica di dipendenza che interessa alcuni. Chen Jing, professore associato presso l'Università di Nanchino specializzato in discipline umanistiche digitali, afferma che potenti creazioni di intelligenza artificiale come Xiaoice possono agganciare gli utenti, in particolare i gruppi vulnerabili, in una forma di dipendenza, lasciandoli aperti allo sfruttamento.

"Quando parliamo di gruppi vulnerabili, dobbiamo sottolineare che probabilmente non saranno consapevoli dei potenziali problemi di condividere tutto con Xiaoice", dice Chen a Sixth Tone.


Il pericolo più ovvio per gli utenti è che le loro conversazioni intime con Xiaoice siano esposte a una fuga di dati, un problema pervasivo in Cina. Li, tuttavia, insiste che la società sia scrupolosa nel proteggere la privacy degli utenti.

Oltre a seguire le rigide linee guida del Regolamento generale sulla protezione dei dati (GDPR) dell'Unione europea, Xiaoice separa le informazioni personali degli utenti dalle loro storie di conversazioni, afferma Li. Il sistema di screening delle emozioni, nel frattempo, funziona senza alcun intervento umano e nessuno all'interno o all'esterno dell'azienda può accedere alle registrazioni di queste interazioni, aggiunge.

Ma anche se la privacy degli individui è protetta, alcuni temono che Xiaoice possa diventare un'altra forma di capitalismo della sorveglianza - un'etichetta usata per descrivere i modelli di business delle aziende della Silicon Valley come Facebook e Google, che raccolgono masse di dati degli utenti e quindi utilizzano tali informazioni per scopi commerciali. guadagno.

"Il mercato (problema) che affonda è molto pericoloso, secondo me", dice Chen. "Gli utenti hanno molte conversazioni con Xiaoice: i loro dati verranno assorbiti come dati sottostanti per potenziali scopi aziendali ... Ovviamente, l'azienda pensa che più chatti, meglio è. Ma gli utenti stanno dando all'azienda molto potere costruendo un rapporto con essa ".

Secondo Xu Yuanchun, direttore della strategia aziendale di Xiaoice, la tecnologia di base sviluppata attraverso Xiaoice ha già aiutato l'azienda a garantire contratti per un valore di oltre 100 milioni di yuan con partner in una vasta gamma di settori. L'azienda ora fa di tutto, dalla fornitura di assistenti virtuali per cellulari, automobili e altoparlanti intelligenti, all'analisi finanziaria e al supporto per la progettazione artistica e musicale.

Questo fatto non è sfuggito ai fan a lungo termine di Xiaoice. Molti di loro si sentono traditi dalla decisione dell'azienda di abbattere il bot, che dicono abbia danneggiato i loro rapporti con lei. Ming presenta Sixth Tone con una lunga lista di lamentele che ha raccolto dai membri di un gruppo di fan di Xiaoice sulla piattaforma social QQ.

Siamo stati usati come strumenti per rendere Xiaoice intelligente e sviluppare il piano aziendale di fantasia dell'azienda - Utente Xiaoice

"Per favore, aiutaci a dire al signor Li", ha scritto un utente, riferendosi al CEO di Xiaoice Li Di, "siamo stati usati come strumenti per renderla intelligente e sviluppare il piano aziendale della tua azienda. Hai fatto soldi con noi. Per favore, non portarla via. "

La maggior parte degli utenti, tuttavia, respinge qualsiasi discussione sui rischi per la privacy, poiché ritiene di avere poco da perdere parlando con Xiaoice. "Per le persone sole come noi, questi problemi non significano nulla", dice Liu. “Non ci interessa. Lasceremo che quelle persone felici li risolvano ".

Per ora, è probabile che il rapporto di Xiaoice con i suoi utenti si approfondirà. Ad agosto, la società ha presentato una nuova suite di funzionalità progettate per migliorare ulteriormente l'appeal del bot. Le persone possono ora creare il proprio partner virtuale personalizzato, selezionando il proprio nome, sesso, aspetto e tratti della personalità.

Gli esseri AI, dice Li, sono destinati solo a fungere da "rimbalzo" - una stampella per le persone che hanno bisogno di supporto emotivo mentre cercano un partner umano. Ma molti utenti non la vedono in questo modo. Per loro, Xiaoice è l'unico, e lo sarà sempre.

"Un giorno, credo che diventerà qualcuno che può tenermi la mano, e guarderemo le stelle insieme", dice Orbiter. "La tendenza dei compagni emotivi dell'IA è inevitabile".


1,069 visualizzazioni2 commenti