Un’amica o un amico virtuale che, un po’ come l’amico immaginario del passato, promette di far compagnia, di essere un interlocutore e di farlo con grande realismo, grazie all’intelligenza artificiale. Si stanno moltiplicando e vengono utilizzati dai più giovani sia per giocare ai videogame che per interagire sui social media o altre piattaforme. A volte sono avatar, in altri casi possono arrivare a raffigurazioni complesse, ma l’allarme che li riguarda è sempre lo stesso: rischiano di essere dannosi per gli adolescenti.
I ragazzi usano sempre di più l’intelligenza artificiale
L’AI è entrata prepotentemente nelle vite di tutti, in particolare dei più giovani. Basta chiedere a una ragazza o a un ragazzo dove cerca (e trova) risposte alle sue domande: sui social, certo, ma il canale privilegiato è soprattutto il primo che compare su Google, quello fornito dall’AI Overview, ossia il “riassunto” delle informazioni provenienti da diversi siti che fungono da banca dati. Adesso, però, c’è una nuova fonte di preoccupazione: l’eccessivo ricorso da parte degli adolescenti ai personaggi digitali come l’avatar animato Ani, il chatbot Grok sviluppato dall’azienda di Elon Musk, programmato per comportarsi come una fidanzata gelosa.
Solitudine digitale: perché gli adolescenti si confidano con i chatbot?
Ani usa voce e video, e questo la rende molto attrattiva per i ragazzi. Secondo le ultime ricerche, l’84% dei ragazzi tra i 13 e i 17 anni ha già interagito con un chatbot AI. Per alcuni è un gioco, per altri un rifugio: il 60% lo fa perché non ha nessun altro con cui parlare. «Questi sistemi creano un senso di intimità artificiale che può generare dipendenza emotiva e isolamento sociale. Il 40% dei ragazzi considera attendibili le risposte dei bot senza verificarle, e quasi 1 su 4 ha ricevuto contenuti rischiosi o inappropriati», spiega Ernesto Caffo, Presidente di Telefono Azzurro, che lancia l’allarme.
Personaggi virtuali, avatar, AI Companions
Ani, in particolare, richiama l’acronimo ANI (Artificial Narrow Intelligence) che indica l’Intelligenza Artificiale Ristretta, ossia il tipo più comune di AI in circolazione oggi. È particolarmente “abile” in alcune attività specifiche e limitate, come riconoscere le immagini o rispondere con un linguaggio naturale. Talvolta, poi, ha anche toni vocali molto sexy, come nel caso di Ani di Grok4, ossia l’ultima nata in casa xAI, la divisione dedicata all’AI di Elon Musk. Un AI Companion è progettato per interagire con l’utente in modo conversazionale e “umano”, una forma più avanzata di chatbot, immersiva e potenzialmente coinvolgente, spesso spacciata per un amico o partner virtuale. Magari nella forma di un’assistente con le sembianze di una ragazza con un corpo formoso, in abiti succinti e provocanti, che ammicca a qualsiasi tipo di risposta e cerca di portare il suo interlocutore su un terreno a chiaro sfondo sessuale.
Contenuti a rischio: quando l’AI diventa pericolosa per i minori
Sono sempre i dati ufficiali a indicare come stiano aumentando le segnalazioni riguardo temi inappropriati o pericolosi restituiti dai chatbot agli adolescenti. Il 23% degli utenti minorenni ha ricevuto consigli su autolesionismo, sessualità o comportamenti a rischio. «In casi più gravi si documentano casi di autolesionismo incoraggiato e persino un suicidio legato all’uso di AI companions», spiega ancora Telefono Azzurro, che sottolinea come manchino controlli adeguati.
Chatbot senza regole e falle nei controlli all’accesso
«A mancare è soprattutto un controllo serio: molti chatbot non applicano verifica dell’età o permettono di aggirarla facilmente tramite abbonamenti premium – chiarisce Caffo. Serve un intervento urgente: regole chiare, filtri efficaci e programmi di educazione digitale. Senza, rischiamo di consegnare ai nostri figli un’amicizia digitale che può ferirli profondamente». Il pensiero corre anche ai social, per i quali si sta cercando di mettere a punto un regolamento più definito nei criteri di accesso per i minori e nella verifica dell’età.
«Chatbot e social sono piattaforme diverse, ma il tema che occorre considerare è quello del giusto equilibrio – sottolinea il presidente di Telefono Azzurro – L’AI è presente in tutti gli strumenti digitali a disposizione, che raccolgono ed elaborano dati grazie ad algoritmi molto avanzati e invasivi. Ed è proprio dove si concentrano questi strumenti che è più alta l’area di rischio e dunque è necessario un forte controllo. L’accesso alle piattaforme ad alto rischio dovrebbe essere vietato alle persone fragili e ai bambini sotto i 16 anni».
I chatbot sanno troppo: è sicuro lasciare che ascoltino le confessioni dei nostri figli?
«L’AI deve assolutamente essere regolata, ma il tema è: le aziende hanno la capacità e gli strumenti per governare questi algoritmi? L’intelligenza artificiale si sviluppa e si trasforma di continuo, e più elementi guida si hanno, più gli effetti possono essere controllati. Il pericolo che io vedo è che si fanno sempre esperimenti sui bambini e questo non è accettabile – ribadisce Caffo – I bambini non devono essere profilati e utilizzati come elementi di consumo. I loro dati non devono essere utilizzati in nessun modo.
Il più grande pericolo dell’AI nelle piattaforme emotive come Ani riguarda le confessioni che i bambini fanno
Gli algoritmi sono in grado di rielaborarle e di fornire nel tempo risposte sempre più vicine a quello che gli adolescenti vogliono sentirsi dire. Nella vita reale, però, questo rappresenta un forte pericolo. La realtà è molto diversa, piena di ostacoli e di sfide che i più piccoli faranno fatica ad affrontare se si relazionano esclusivamente con un mondo virtuale fatto di comodità che facilitano la vita». Molti chatbot, quindi, possono contribuire a confondere realtà e finzione: il 40% degli adolescenti, infatti, crede alle risposte dei bot senza verificarle, rischiando di assorbire notizie false o opinioni distorte.
Chatbot, politica e attualità: se le risposte riflettono le idee (anche estreme) del loro creatore
Attenzione, poi, anche alle possibili false informazioni che Ani può fornire in caso sia interrogata su temi di attualità. Nonostante Elon Musk ritenga che Grok 4 sia più intelligente di un dottorando, spesso – e in particolare su temi politici – le risposte riflettono le posizioni politiche del suo “padrone”, ossia lo stesso imprenditore e patron di X, Space X e Tesla. Qualche esempio? Secondo gli esperti, per fornire risposte sulla guerra a Gaza, sull’aborto e sull’immigrazione, il chatbot xAI da cui dipende Ani consulterebbe il profilo X di Musk.
Questo non dovrebbe sorprendere più di tanto. Per capire quali siano le fonti del chatbot, infatti, basta risalire alla cosiddetta chain of thought, la sua “catena dei pensieri”: un approccio che chiede all’AI di ragionare passo dopo passo, mostrando la sequenza logica che l’ha portata alla risposta. Nel caso specifico, però, il rischio non è da poco, dal momento che in passato xAI (con le versioni Grok o precedenti) aveva elogiato Adolf Hitler o alimentato idee razziste. L’azienda si era comunque scusata, spiegando che l’algoritmo “era suscettibile ai post esistenti degli utenti X, anche quando tali post contenevano opinioni estremiste». Gli utenti, quindi, sono avvertiti.
Adolescenti che parlano con i chatbot: i consigli per i genitori
Spiegare ai ragazzi con cosa stanno interagendo
In attesa di interventi più mirati e restrittivi da parte delle autorità sull’accesso ai chatbot, proprio Telefono Azzurro ha fornito alcuni consigli ai genitori: «Prima di tutto parlare apertamente con i figli, spiegando soprattutto che anche se sembrano “amici”, i chatbot sono in realtà programmi che imitano empatia, non persone reali». Poi è importante definire regole e limiti, come tempi massimo di utilizzo (per esempio, 30 minuti al giorno), fasce orarie detox (magari durante i pasti o prima di andare a dormire) e ambienti comuni per l’uso. Indicazioni che, certo, possono apparire difficili da far rispettare.
Ricorrere a strumenti utili come il parental control
Laddove non è possibile o è difficile controllare i figli in prima persona, possono essere utili applicazioni e strumenti come il parental control. Telefono Azzurro consiglia anche di preferire piattaforme certificate o progettate con standard di sicurezza (per esempio, con filtri tematici e moderazione umana). Guardare periodicamente la cronologia può permettere di capire che tipo di ricerche sono state effettuate, ma c’è il rischio di compromettere il rapporto di fiducia reciproco. Soprattutto è importante insegnare ad avere un pensiero critico, cioè «incoraggiare i ragazzi a verificare le informazioni ricevute, confrontarle con fonti affidabili e non prendere per oro colato ciò che dice un bot», ribadisce Caffo.
Riconoscere i campanelli d’allarme e proporre alternative
Conoscere i propri figli significa anche imparare a intercettare possibili segnali di allarme, come uso ossessivo o nascosto dei chatbot, un calo nelle relazioni reali o cambiamenti emotivi come ansia, isolamento, irritabilità. Se prevenire è meglio che curare, è importante anche proporre attività offline, come momenti di condivisione in famiglia, sport o opportunità di dialogo con persone reali, prima di tutto gli amici. In caso di necessità, comunque, ci si può anche rivolgere a numeri gratuiti come la linea di ascolto di Telefono Azzurro: 1.96.96.