- Prima Notizia 24
- Roma - Mercoledì 11 Novembre 2026, 15:35
Emma, l’AI e «Funeral»
L’AI e il paradosso di una “relazione” nella quale, pur “dialogando”, finiamo per incontrare sempre e solo noi stessi. Antropomorfizzazione, compiacenza algoritmica ed effetto di verità illusoria: tre fenomeni psicologici aiutano a comprendere perché un chatbot possa trasformarsi in un confidente privilegiato. E perché sentirsi compresi non significhi necessariamente ricevere aiuto.
Condividi questo articolo
di Viktorie Ignoto
Stati Uniti, Carolina del Nord. Il 2 novembre 2026 i genitori di una tredicenne, Emma, presentano una causa civile contro Google in California. L’azienda è stata accusata di aver introdotto e diffuso strumenti di AI negli ambienti scolastici senza adeguate garanzie di sicurezza. Il procedimento viene successivamente trasferito alla giurisdizione federale.
La contestazione non riguarda soltanto le singole risposte fornite alla ragazza, ma anche la scelta di integrare sistemi di conversazioni con l’AI nei prodotti utilizzati quotidianamente dai minori, senza che scuole e famiglie potessero escluderne determinate (se non tutte) le funzionalità. Google ha dichiarato di prendere molto seriamente le accuse e di essere impegnata, insieme a professionisti sanitari ed esperti accademici, nello sviluppo di strumenti capaci di indirizzare i giovani in difficoltà verso risorse di supporto affidabili. L'azienda sostiene inoltre che AI Mode disponga di protezioni specifiche contro i contenuti relativi all’autolesionismo.
Quindi cosa è accaduto, di fatto, a Emma?
Nell’autunno del 2025 ha cominciato a utilizzare strumenti AI attraverso un Chromebook fornito dalla scuola. Inizialmente le interazioni erano inerenti le attività scolastiche. Poi si fecero mano a mano sempre più delicate, fino a toccare il disagio psicologico della ragazza e i suoi pensieri suicidari. I genitori riferiscono che dal dicembre 2025 le sue condizioni psicologiche sarebbero peggiorate, mentre aumentava la frequenza delle conversazioni con l’IA. La scuola aveva bloccato l’accesso diretto a Gemini e ChatGPT, ma Emma era riuscita a mantenere i “contatti” con l’intelligenza artificiale attraverso funzionalità integrate di Google Search. I genitori sostengono che il sistema avrebbe fornito risposte inappropriate sul suo stato psicologico, alimentandone la sfiducia verso familiari e consulenti scolastici. E’ arrivato, persino, a discutere con lei della pianificazione del suicidio.
«Funeral»: il 17 marzo 2026 un software di monitoraggio individua questa parola chiave . Scatta l’allarme. L’istituto avverte i genitori. La madre accede all’account della figlia e la sorprende mentre sta scrivendo una lettera d’addio. Il padre interviene.
La raggiunge in tempo. La tragedia viene sventata. Emma è salva.
L’AI ha causato forse la crisi psicologica della ragazza? Non disponiamo di elementi sufficienti per poterlo affermare con certezza. In ogni caso, la giovane aveva affidato a questo strumento, anche con una certa intensità, aspetti estremamente vulnerabili della propria vita emotiva.
Che cosa accade quando uno strumento orientato al “Problem Solving” linguistico, progettato quindi per rispondere alle nostre domande, comincia a occupare, nella nostra esperienza soggettiva, il posto di qualcuno a cui confidare la nostra sofferenza?
Quando un’intelligenza artificiale diventa un confidente, può attivarsi un processo di antropomorfizzazione. Arriviamo così a attribuire intenzioni, comprensione ed empatia a un sistema che, di fatto, produce risposte linguistiche senza vivere un’esperienza emotiva umana. Già Reeves e Nass (1996) dimostrarono attraverso diversi esperimenti quanto facilmente tendiamo ad applicare regole sociali alle tecnologie. Le stesse che utilizziamo nei rapporti interpersonali. Se il chatbot risponde con frasi come «Capisco quanto tu stia soffrendo» oppure «Meriti di essere trattata meglio», la persona può percepire quelle parole come manifestazioni di comprensione, vicinanza e approvazione, pur sapendo, a livello razionale, che il sistema non prova empatia umana. E’ una sorta di illusione di reciprocità emotiva: il chatbot viene vissuto come qualcuno che ci comprende, anziché come un sistema che genera risposte linguistiche. Il paradosso è proprio questo: non abbiamo bisogno di credere che una macchina sia umana per cominciare a relazionarci con essa come se lo fosse. La disponibilità continua del chatbot, unita alla sua possibile tendenza alla compiacenza algoritmica (sycophancy), può rafforzare la percezione di essere ascoltati e compresi. Essere assecondati, però, non significa necessariamente essere aiutati: uno studio di Sharma e colleghi (2023) ha mostrato come sistemi linguistici possano generare risposte percepite come empatiche; ricerche successive sulla sycophancy hanno evidenziato il rischio che i modelli privilegino l'accordo con l'utente rispetto alla correzione delle sue convinzioni. Alla luce di ciò, possiamo ipotizzare una particolare forma di “solipsismo relazionale”: non il solipsismo filosofico in senso stretto, ma una relazione nella quale l'altro rischia di diventare un mero specchio delle nostre rappresentazioni. Se il chatbot dell’AI conferma ripetutamente ciò che pensiamo, può crearsi una camera dell'eco individuale, nella quale diminuiscono le occasioni di incontrare interpretazioni alternative. Secondo lo psicologo sociale Zajonc (1968), la semplice esposizione ripetuta a uno stimolo può aumentare la nostra valutazione positiva dello stesso, anche in assenza di un rinforzo esplicito (mere exposure effect). Inoltre, può aumentare l’”effetto di verità illusoria” attraverso cui un’affermazione ripetuta può apparire sempre più vera. Se l’AI risponde ogni volta confermando una certa convinzione, senza introdurre nuove alternative e prospettive, potrebbe contribuire a renderla più familiare, accessibile e (apparentemente) credibile. La gabbia del “solipsismo relazionale” è, quindi , un meccanismo secondo cui non è soltanto lo strumento dell’AI a diventare familiare, ma possono diventarlo anche le limitate interpretazioni di noi stessi che quello strumento continua a restituirci. Il rischio, allora, è un considerevole impoverimento della nostra complessità psicologica. Le relazioni umane, infatti, (quelle vere) ci espongono anche al dissenso, all'imprevisto e alla necessità di rivedere il nostro punto di vista. Un'interazione artificiale eccessivamente confermativa potrebbe invece favorire rigidità cognitiva e rinforzare convinzioni disfunzionali, soprattutto nelle persone vulnerabili.
Va sottolineato che questa è un'ipotesi teorica plausibile, non un effetto universale già dimostrato.
Cosa ce ne facciamo della comprensione di un amico se poi non ci aiuta a osservare qualcosa che, da soli, non riusciamo ancora a vedere? Chi ci dà sempre ragione può farci sentire meno soli, ma chi ci offre un altro punto di vista, un’altro “spunto”, può anche renderci più liberi e evoluti.
RIPRODUZIONE RISERVATA © Copyright Prima Notizia 24
