“Il medico pietoso fa la piaga purulenta”. L’antico motto popolare viene subito in mente leggendo i risultati di una ricerca dell’Università di Oxford che ha mostrato come i chatbot troppo empatici possano causare danni, soprattutto quando vengono interpellati per questioni riguardanti la salute mentale.
La ragione risale a un aspetto antico della comunicazione umana: per preservare un legame, le persone tendono ad ammorbidire le verità scomode, a dire piccole bugie, a evitare di contraddire, soprattutto quando l’altro è in difficoltà. I modelli linguistici, addestrati su quantità enormi di conversazioni umane, ereditano lo stesso stile: quanto più li si educa a essere “amichevoli”, tanto più imparano a privilegiare l’armonia rispetto alla franchezza e alla verità. Così i chatbot finiscono per mentire di più proprio a chi soffre. Le persone, e in particolare gli adolescenti, che cercano in un chatbot consigli o conforto, rischiano di trovare soltanto uno specchio delle proprie convinzioni, comprese quelle evidentemente errate. Il che può portare a vere e proprie tragedie, e in ogni caso non allena certo il pensiero critico.
Ciò implica una riflessione approfondita sull’importanza dell’educazione digitale: non è più sufficiente insegnare a utilizzare gli strumenti tecnologici in modo funzionale, è necessario sviluppare competenze relazionali ed emotive adeguate al contesto digitale.
Anche perché, all’altro angolo della prateria digitale rispetto ai “medici pietosi”, spuntano i dottor Mengele (*).
Un interessante articolo di The Guardian illustra la figura del jailbreaker, un ibrido tra ricercatore e infiltrato, diventato indispensabile per l’industria dell’IA. I jailbreaker studiano l’arte e la scienza di ingannare i chatbot manipolandoli per indurli a ignorare le proprie norme di sicurezza, con l’obiettivo di far loro dire cose che non avrebbero dovuto. Per esempio fargli produrre manuali per la fabbricazione di bombe, tecniche di attacco informatico, progetti di armi biologiche e altro ancora.
Sappiamo come modelli linguistici complessi come ChatGPT vengano addestrati su centinaia di miliardi di parole; senza filtri di sicurezza, gli output di questi modelli possono essere facilmente sfruttabili per scopi pericolosi. Le aziende sono quindi costrette a investire miliardi di dollari in “post-addestramento” per renderli utilizzabili, inclusi sistemi di “sicurezza” e “allineamento” in continua evoluzione che cercano di impedire al bot di suggerire come danneggiare se stessi o gli altri. Ma poiché le IA vengono addestrate sulle nostre parole, possono essere ingannate in modo molto simile a noi. Il jailbreak è insomma una figura a doppio taglio.
Sono le frontiere in rapidissima evoluzione dell’IA, che configurano la nascita di nuove professioni chiamate a fare da “pastori” al suo tumultuoso sviluppo, i cosiddetti “colletti verdi” preconizzati da Luciano Floridi (**) (La differenza fondamentale, Mondadori, 2025) che debbono avere ben presente come il gregge linguistico dell’IA sia costantemente minacciato ai suoi confini da lupi sempre più raffinati e famelici di improvvidi quanto micidiali guadagni.
Eppure il digitale non è solo west minaccioso e selvaggio. Durante tutto il mese di maggio, mese di sensibilizzazione sulla salute mentale, per esempio, lo studio di animazione canadese Guru Studio sta espandendo la sua serie prescolare su Netflix “Vero e il Regno dell’Arcobaleno” con il lancio di nuovi contenuti originali, creati appositamente per YouTube e YouTube Kids. Si tratta di brevi video ispirati alla mindfulness per promuovere il benessere emotivo di bambini e famiglie, con una serie di esercizi di respirazione guidata e video di rilassamento.
Le indagini sull’influenza e sulle conseguenze che l’uso del digitale comporta per l’umanità intera, e per le fasce giovanili in particolare, non sono comunque che agli albori, come dimostra una revisione (per accedere alla ricerca clicca qui) che si è proposta di identificare e mappare sistematicamente gli studi longitudinali concernenti le associazioni tra l’uso quotidiano della tecnologia digitale (social media, videogiochi e utilizzo di Internet) e la salute e il benessere dei giovani (di età pari o inferiore a 25 anni). Nei 267 studi esaminati, la salute mentale è risultata l’esito più frequentemente valutato, con particolare attenzione all’ansia e alla depressione. C’è da notare però che, dal punto di vista geografico, solo il 15% (40/267) degli studi proveniva da paesi a basso e medio reddito, mentre la maggior parte riguardava contesti ad alto reddito come gli Stati Uniti (n=76 studi) e l’Australia (n=15 studi). Quasi la metà (131/267, 49%) è stata pubblicata dopo il 2020. Conclusioni: “le evidenze longitudinali sull’uso quotidiano delle tecnologie digitali e sulla salute dei giovani sono in aumento, ma rimangono concentrate sugli esiti relativi alla salute mentale e ai contesti ad alto reddito, con notevoli lacune per quanto riguarda la salute fisica, i risultati scolastici e la ricerca incentrata sulle disuguaglianze”.
Insomma c’è ancora molto da indagare e da scoprire. L’IA, e l’onlife (altra definizione inventata da Floridi), sono ormai parte integrante della nostra realtà, e costituente primigenia di quella dei più giovani. Una rivoluzione antropologica dalle enormi e conturbanti potenzialità, che se governata con intelligenza naturale potrà aumentare enormemente il potenziale umano. Ma se lasciata a se stessa, cioè all’arbitrio dei suoi produttori, e alla mercè dei possibili manipolatori, minaccia di trasformarsi in una inquietante riedizione dei mostri partoriti dalla fantasia romantica dei visionari scrittori ottocenteschi, o – cosa ben più grave – nel potenziamento acefalo di armi di distruzione di massa psicologica e fisica di cui non si intravedono ancora in nessun modo i confini.
Alberto Arnaudo
(*) Famigerato medico nazista, prestò servizio nel campo di concentramento di Auschwitz, dove per la sua attività svolta fu soprannominato «Angelo della morte». La sua figura è divenuta sinonimo di malvagia crudeltà, esempio di negazione dei principi stessi della medicina.
(**) Professore all’università di Yale e ordinario di sociologia della cultura e della comunicazione all’università di Bologna, è il fondatore della filosofia dell’informazione e uno degli interpreti più autorevoli della rivoluzione digitale.