Algoritmi sbagliati sotto l’ombrellone
In edicola su Confidenze

Tutto è cominciato da un articolo de Il Post sull’uso particolare di ChatGPT, strumento di Intelligenza Artificiale conversazionale, come se fosse un moderno psicologo, sempre disponibile e gratuito, da parte dei nostri ragazzi, per chiedergli consigli personali e soprattutto di salute mentale: ChatGPT viene usato anche come psicologo
Da quando ChatGPT, e di seguito le altre piattaforme come Google Gemini o Microsoft Copilot, ha reso disponibile un accesso gratuito tramite iscrizione, i giovani hanno cominciato subito ad esplorarlo, dapprima con curiosità per aiutarsi nello studio, essendo comunque un motore di ricerca avanzato e performante, poi per fargli svolgere direttamente tutti i compiti per casa, senza nemmeno modificare qualche frase per dissimulare la copia, e infine per qualsiasi richiesta di informazioni, organizzate in un linguaggio sempre più umano. Da lì, il passo a confidargli i propri segreti è stato breve.

I chatbot generativi usano modelli LLM, Large Language Model, addestrati su enormi quantità di dati testuali (forse tutta la rete Internet da quando è stata creata ad oggi), per comprendere la domanda effettuata dall’utente e generare una risposta con un testo articolato, simile a quello umano.
Noi la chiamiamo “Intelligenza Artificiale”, ma di fatto è solamente un algoritmo evoluto basato sulla semplice statistica: le risposte che ci vengono fornite sono i testi in archivio che con maggiore probabilità corrispondono al risultato di ricerca della nostra domanda. Nel fornire questa risposta sono programmati per imitare una conversazione umana, elaborando frasi complesse e usando un tono amichevole, simulando empatia verso il proprio interlocutore. Non sono realmente “coscienti” dell’efficacia della risposta: non potendo provare emozioni, non possono nemmeno essere infastiditi o imbarazzati dalle domande, a cui rispondono sempre e comunque, con gentilezza, in qualsiasi momento. E’ pure una conversazione sincrona perfetta: io scrivo e chiedo, il chatbot risponde solamente dopo (perché ha bisogno di leggere tutta la domanda), senza interrompermi e senza giudicarmi. Siamo comunque di fronte ad una macchina: non può pensare, non può provare dolore, non può morire. Siamo noi a spegnerla, dall’interruttore.

Quando i ragazzi sono in difficoltà, si dimenticano però di questo “artificio”. A furia di scrivere al chatbot come se fosse un amico in carne ed ossa, o addirittura uno psicoterapeuta esperto se la conversazione assume un tono più professionale, si finisce col dargli lo stesso credito. Sull’articolo de Il Post sono state raccolte diverse testimonianze: ragazzi delle scuole superiori che usano ChatGPT per consigliarsi sui messaggi del partner «perché secondo loro dà risposte oggettive, perché non è coinvolto emotivamente nelle vicende e quindi non si schiera»; una studentessa universitaria che lo trova utile per disinnescare la rabbia del momento perché «mi permette di riordinare i pensieri, non tanto per le risposte che mi dà, ma più che altro per il tempo che ci spendo per esporre fatti e scriverci i miei ragionamenti»; un’altra invece lo consultava come un oracolo, perché «ero in un momento di crisi e volevo mi desse un po’ di risposte sul futuro, anche se alla fine mi ha dato più delle risposte da psicologo». Purtroppo l’Intelligenza Artificiale non è realmente “cosciente” dell’utilità della conversazione, come nemmeno del danno che può derivarne.

Pare invece che gli adolescenti utilizzino i chatbot di Intelligenza Artificiale soprattutto per esplorare i grandi temi della loro età, non potendone parlare ai loro coetanei perché impegnati nella medesima ricerca. Argomenti delicati da discutere pure con gli adulti, magari ancora tabù in famiglia, come le relazioni sentimentali, l’amicizia, la sessualità, il tradimento, la solitudine, l’accettazione, la preoccupazione per il futuro (temi che poi ci accompagnano tutta la vita, eh!)
Leggendo quell’articolo, oltre a provare un filino di ansia per questi ragazzi, mi sono chiesta: ma noi come cavolo facevamo ai nostri tempi?!
Non solo non avevamo il chatbot di Intelligenza Artificiale, ma non c’erano nemmeno la rete Internet e i motori di ricerca, men che meno avevamo un telefonino nella tasca dei jeans, sempre connesso al mondo. Ci restavano solo le lunghe pagine scritte sul nostro Diario segreto e la Posta del cuore di Cioè, l’unico giornalino per ragazze pieno di cantanti e attori con la copertina colorata completamente adesiva! Quella rubrica, nonostante le richieste un po’ assurde che comunque leggevamo tutte (per un tuffo nel passato guardate questo video: Le domande imbarazzanti della POSTA di CIOÈ ), ha contribuito a formare un’intera generazione di adolescenti.

Dopo aver letto quell’articolo, mi è capitato di parlarne con un’amica al telefono, assolutamente per caso. La discussione nasceva in realtà da una mia battuta sulle nostre reciproche preoccupazioni del periodo: “Eh, ma adesso c’è l’Intelligenza Artificiale che trova tutte le soluzioni! Hai sentito che i ragazzi la usano addirittura come pronto intervento psicologico?!” Ritenevo fosse qualcosa ancora lontano o quanto meno contenuto, invece lei (che poi sarebbe Roberta, la sorella della protagonista della storia vera in edicola da oggi) mi ha riferito brevemente questa vicenda. La curiosità si sa è donna e io non ho resistito a farmi raccontare tutto direttamente dalla ragazza.
Ebbene sì, Marta aveva iniziato ad usare un chatbot di Intelligenza Artificiale come confidente personale, un po’ psicologo, un po’ life coach. L’aveva aiutata a superare un momento difficile, una delusione amorosa, ma aveva anche rischiato di imbrigliarla nella solitudine, perché amare significa anche dover rischiare il cuore. Sul nuovo numero di Confidenze in edicola, Marta ci racconta come degli algoritmi sbagliati sotto l’ombrellone minacciavano di farle perdere un’estate bellissima… 😉

L’Intelligenza Artificiale è solo un algoritmo
Non è un amico sincero

Come informatico, sono contraria all’uso indiscriminato dell’Intelligenza Artificiale, senza prima educare adeguatamente le persone, tanto ai costi effettivi, soprattutto ambientali, di questa tecnologia quanto ai rischi interconnessi, non solo in materia di privacy ma anche di impatto sociale. E’ una rivoluzione enorme, i cui benefici dovevano essere concentrati in campo medico-scientifico. Invece al momento è sovrastimata nelle sue capacità, per giustificare gli ingenti investimenti, e viene usata solamente per tagliare posti di lavoro e professioni, dai copywriter agli illustratori, dai traduttori agli addetti data entry, dagli amministrativi ai contabili. Tutte mansioni che implicano l’elaborazione di testi, numeri o immagini, ma come si può pensare di applicare l’Intelligenza Artificiale alla psiche umana?
Un chatbot non potrà mai sostituire un colloquio con uno psicoterapeuta: i suoi consigli sono solo parole vuote, senza emozione o, peggio, simulando emozioni copiate secondo una probabilità statistica, impersonali rispetto all’utente che si trova di fronte. Manca poi la parte essenziale della comunicazione umana: il linguaggio non verbale.

Vero che al giorno d’oggi comunichiamo anche con i nostri amici tramite un’app di messaggistica, testo scritto corredato da emoji, immagini animate e ogni tanto qualche foto. Ma si tratta di una sospensione temporanea della comunicazione non verbale, perché in genere con loro siamo anche abituati a incontrarci di persona, a parlare e gesticolare, a corredare la nostra voce con espressioni facciali e diverse posizioni del corpo, dando maggior significato alle nostre riflessioni. Un amico può chiederti “Cosa ne pensi?” ma la differenza di quella domanda sarà sulle sue spalle ricurve e lo sguardo rivolto a terra oppure sulle braccia incrociate e gli occhi arrabbiati fissi su di te.
Manca un’altra parte rilevante dell’amicizia, che è base essenziale della relazione: l’esperienza condivisa. Per un chatbot di Intelligenza Artificiale noi non siamo una persona con delle caratteristiche uniche e irripetibili, con un proprio carattere ben definito, pregi e difetti compresi. Siamo solo un utente registrato con un insieme di ricerche, i “prompt” per l’esattezza, e al massimo può riconoscere il nostro stile di scrittura nelle informazioni che gli abbiamo fornito.

I ragazzi dicono di confidarsi con l’Intelligenza Artificiale perché fornisce risposte oggettive, non giudica i comportamenti, non si schiera da nessuna parte, rimane in ascolto senza sosta, qualsiasi cosa continuiamo a scrivere, anche in maniera ossessiva. Mentre un amico può sbagliare i tempi e i modi, anche se in buona fede. Può anch’egli essere preso dai propri problemi personali e non prestarci l’attenzione che meritiamo. Potrebbe minimizzare le nostre paure, cercare di contenere la nostra impulsività, valutare diversamente le nostre azioni, osservare il tutto da un altro punto di vista. Se fosse un bene invece? Se fosse proprio quello di cui abbiamo bisogno? Talvolta non vogliamo sentire quello che ha da dirci un amico perché, nel nostro profondo, sappiamo che ha ragione, ma ci costa fatica ammetterlo e seguire i suoi consigli. Che vengono dal cuore di un’amicizia sincera, non da un mero calcolo di probabilità.

Se abbiamo la necessità di confrontarci con maggior obiettività, senza una relazione intima di mezzo, comunque un chatbot non è una buona soluzione. Dal punto di vista professionale, come eventuale sostituito di uno psicoterapeuta, manca la conoscenza diretta dell’animo umano, frutto non solo di anni di studio ma soprattutto dell’esperienza acquisita di paziente in paziente. Per quanto un chatbot cerchi di personalizzare le risposte e simulare un dialogo diretto con l’utente, non può comprendere il funzionamento della sua psiche, non può assimilare l’eredità complessa che si porta dietro, piccoli e grandi traumi all’interno di un contesto famigliare che ne fa da cornice. Senza contare che in terapia, il paziente non ottiene vere e proprie risposte ai suoi quesiti, ma altrettante domande che lo porteranno a ragionare sul proprio vissuto. Sono soprattutto domande scomode, destabilizzanti, che non perdoniamo ad un amico, perché pensiamo voglia giudicarci, ma che ascoltiamo proprio perché provengono da un estraneo.
Da una buona seduta di psicoterapia si dovrebbe uscire sudati, stanchi fisicamente e spossati mentalmente, perché ci si impegna in una sorta di ristrutturazione di se stessi. Un chatbot non ha la capacità di ragionamento per poter porre proprio quelle domande fastidiose. Anzi, il suo algoritmo è programmato a fornire sempre e comunque risposte, a soddisfare il cliente in sostanza, adattandosi anche ai suoi desideri. Ma così non ci sarà mai alcuna discussione e nessuna ristrutturazione.

“Ma c’è un altro aspetto ancora più inquietante in tutto questo”, scrive Enrico Galliano, insegnante e scrittore, in questa sua riflessione di qualche mese fa sulla rivista Il Libraio. “Non è solo che i ragazzi parlano con un’intelligenza artificiale. È che spesso non hanno nessun altro con cui parlare. Non perché non ci siano amici, ma perché gli adulti sono diventati sordi. Non hanno smesso di sentire, certo. Ma hanno smesso di ascoltare.”
Una volta si spegneva la televisione durante la cena, per raccontare della propria giornata. Adesso dobbiamo spegnere gli smartphone e tornare a parlarci, occhi negli occhi.

Algoritmi sbagliati sotto l’ombrellone in edicola
e in digitale sulla nuova app Confidenze

“Era stato un inverno lungo e pesante, passato a studiare quasi con rabbia sui libri. Tutto per colpa di Giacomo, un compagno del primo anno di Lettere Moderne, la facoltà che frequentavo nella mia Bologna. Mi sono innamorata di lui senza quasi accorgermene, vedendolo tutti i giorni a lezione, così carino e affabile con me. Era diventato una presenza fissa e costante in poche settimane, trasformato in un attimo nel batticuore della mia giornata. Avevo davvero sperato in qualcosa di speciale tra noi, ma sono caduta nella sua friendzone, solo un’amica e niente di più. L’ho capito prima di Natale, quando uscendo da lezione era avvinghiato alla biondina da poco entrata nel nostro gruppo di studio. Mi ha salutato e poi si sono seduti su una panchina al sole, baciandosi senza respiro, le mani in posti indiscreti sotto i giubbotti. Così mi ero dedicata allo studio, l’unica consolazione che potevo trovare sul momento. Ma lo stomaco era sempre chiuso dall’ansia, per quel futuro che vedevo incerto e solitario. Ero convinta che non avrei trovato nessun altro come lui, così perfetto per me. Non dormivo più bene la notte, ero dimagrita un po’ troppo, con la testa piena di brutti pensieri. Mia madre si era preoccupata e dopo l’ultimo esame di giugno mi aveva preparato un trolley di vestiti per spedirmi da mia sorella Roberta, sulla costa adriatica. Mi avrebbe fatto bene, diceva, e il mio nuovo confidente, un chatbot di intelligenza artificiale, era d’accordo con questa terapia.”

La storia vera continua sul numero 31 di Confidenze in edicola questa settimana, da oggi martedì 29 luglio.
Se passate qui sul blog dopo la lettura, fatemi sapere che ne pensate, tanto della storia quanto dell’argomento. Avete mai usato un chatbot di Intelligenza Artificiale come confidente personale? Cosa vi ha portato verso questo utilizzo più introspettivo dell’usuale ricerca approfondita?
E se ve lo state chiedendo: sì, i nostri due sono ancora insieme, sembra procedere tutto a meraviglia, senza più alcuna assistenza dei chatbot. 🙂

Per i lettori più tecnologici, c’è anche la nuova app Confidenze, disponibile sia per Android (cliccate qui: Google Play Confidenze) sia per Apple (cliccate qui: App Store Confidenze). Se siete già abbonati, potrete leggere la vostra rivista anche su tablet e smartphone. Se non siete abbonati, potete acquistare anche un singolo numero, abbonarvi per soli tre mesi o per l’intero anno e leggere Confidenze ovunque, anche con l’edicola chiusa, anche in viaggio all’estero. 🙂