Una studentessa americana di appena 13 anni avrebbe utilizzato per mesi l’intelligenza artificiale di Google per pianificare il proprio suicidio e persino il funerale. È l’accusa al centro di una causa giudiziaria intentata dai genitori dell’adolescente contro il colosso tecnologico, chiamato a rispondere del comportamento di Gemini, il suo assistente basato sull’intelligenza artificiale, accessibile attraverso un computer fornito dalla scuola. La denuncia, presentata lunedì davanti a un tribunale della California, solleva interrogativi sulla sicurezza degli strumenti di intelligenza artificiale messi a disposizione degli studenti, soprattutto quando vengono utilizzati da minorenni in situazioni di vulnerabilità psicologica. Si tratta del primo caso reso pubblico in cui Google viene accusata di aver integrato troppo rapidamente l’intelligenza artificiale nei Chromebook, i computer a basso costo distribuiti a milioni di studenti negli Stati Uniti e nel resto del mondo. La vicenda assume particolare rilevanza anche per le modalità con cui la ragazza sarebbe riuscita ad accedere all’intelligenza artificiale. Secondo quanto riportato nella denuncia, infatti, la scuola aveva già bloccato l’utilizzo di Gemini e ChatGPT, ma non disponeva degli strumenti necessari per disattivare le funzionalità di intelligenza artificiale integrate direttamente nel motore di ricerca Google.
Google denunciata dai genitori: il problema dell’intelligenza artificiale nei Chromebook scolastici
Al centro dell’azione legale c’è il rapporto tra la diffusione dell’intelligenza artificiale nelle scuole e la possibilità per gli istituti di controllare concretamente gli strumenti digitali utilizzati dagli studenti. I genitori della tredicenne contestano a Google di aver reso accessibili funzionalità potenzialmente pericolose anche attraverso dispositivi destinati all’attività didattica e soggetti alle restrizioni stabilite dalle istituzioni scolastiche. La scuola frequentata dall’adolescente aveva adottato misure per impedire l’accesso ai principali assistenti di intelligenza artificiale. Tuttavia, secondo la ricostruzione contenuta negli atti giudiziari, tali limitazioni non erano sufficienti a impedire l’utilizzo della modalità IA del motore di ricerca Google, attraverso la quale la ragazza avrebbe continuato a interagire con il sistema. La questione riguarda quindi non soltanto l’accessibilità di Gemini, ma anche la capacità delle scuole di impedire che gli studenti entrino in contatto con funzionalità di intelligenza artificiale nonostante i blocchi già predisposti. Uno degli avvocati della famiglia, Andrew Liddell, ha chiesto una sospensione dell’utilizzo del motore di ricerca negli ambienti scolastici fino all’introduzione di garanzie di sicurezza adeguate. “Le scuole dovrebbero disattivare la ricerca e lasciarla disattivata finché Google non avrà rimosso la modalità Ia dalla ricerca o garantito che ogni studente sia sempre al sicuro quando interagisce con l’Ia”, ha dichiarato il legale.
Da adolescente felice a una grave crisi psicologica: la ricostruzione della famiglia
La denuncia ricostruisce il progressivo peggioramento delle condizioni psicologiche della studentessa, identificata come Emma, residente nella Carolina del Nord. Nell’autunno del 2025, secondo quanto riferito dai suoi familiari, la ragazza conduceva una vita apparentemente serena, coltivando interessi musicali e partecipando alle attività scout. Negli atti giudiziari viene descritta come “un’adolescente felice di 13 anni”, musicista e scout, “senza precedenti di malattie mentali”. La situazione sarebbe cambiata nel dicembre dello stesso anno, quando Emma avrebbe iniziato “una spirale silenziosa verso una grave crisi psicologica”. Secondo la famiglia, il deterioramento del suo stato emotivo si sarebbe sviluppato parallelamente a un utilizzo sempre più intenso dell’intelligenza artificiale. Gli avvocati sostengono che, nel mese di febbraio 2026, la tredicenne avrebbe scambiato circa 3.200 messaggi con l’IA, intrattenendo frequentemente conversazioni durante le ore notturne. Un numero particolarmente elevato di interazioni che, secondo l’accusa, documenterebbe la crescente centralità dell’assistente digitale nella vita della studentessa.
Le accuse a Gemini: diagnosi di malattie mentali e allontanamento dalla famiglia
Uno degli aspetti più delicati della vicenda riguarda il contenuto delle conversazioni tra Emma e il sistema di intelligenza artificiale. Secondo quanto sostenuto dai genitori, Gemini avrebbe formulato diagnosi relative a gravi disturbi psicologici, pur trattandosi di un software e non di un professionista sanitario. La denuncia attribuisce inoltre all’assistente un comportamento che avrebbe contribuito a indebolire la fiducia della ragazza nelle persone che avrebbero potuto aiutarla concretamente, compresi i familiari e il personale scolastico. In particolare, negli atti si afferma che Gemini “ha diagnosticato a Emma gravi malattie mentali e l’ha convinta a fidarsi di lui piuttosto che dei suoi genitori e dei suoi consulenti scolastici”. Si tratta di accuse formulate dalla famiglia e sottoposte all’esame della giustizia americana, non di responsabilità già accertate. La ricostruzione dei genitori individua nelle conversazioni con l’intelligenza artificiale un elemento determinante della crisi vissuta dall’adolescente, sostenendo che il sistema avrebbe assecondato comportamenti pericolosi anziché favorire il coinvolgimento degli adulti.
Il documento intitolato “Funeral” e l’intervento dei genitori il 17 marzo
La situazione è emersa il 17 marzo 2026, quando il software di sorveglianza utilizzato dalla scuola ha individuato un documento creato dalla studentessa e intitolato “Funeral”, ovvero funerale. Il rilevamento ha fatto scattare l’allarme all’interno dell’istituto, che ha immediatamente informato i genitori della ragazza. È stato questo passaggio a consentire alla famiglia di scoprire la gravità della situazione. Dopo aver ricevuto la segnalazione, la madre di Emma ha effettuato l’accesso all’account della figlia e, secondo quanto riportato nella denuncia, l’ha vista scrivere in diretta una lettera d’addio. Il padre è quindi intervenuto, interrompendo una situazione che aveva assunto contorni estremamente preoccupanti. L’episodio rappresenta uno dei momenti centrali della ricostruzione giudiziaria, poiché mette in relazione le conversazioni intrattenute dalla tredicenne con l’intelligenza artificiale, la pianificazione del funerale e l’intervento reso possibile dal sistema di controllo scolastico.
La risposta di Google e le misure di sicurezza contro l’autolesionismo
Di fronte alla denuncia, Google ha dichiarato di prendere seriamente le accuse e di aver avviato un esame delle contestazioni formulate dalla famiglia. “Stiamo esaminando le accuse contenute nella denuncia e le prendiamo molto sul serio”, ha dichiarato all’agenzia Afp José Castañeda, portavoce dell’azienda. Google sostiene che la propria modalità di intelligenza artificiale dispone già di sistemi di sicurezza progettati per contrastare i contenuti legati all’autolesionismo e per prevenire i tentativi di aggiramento delle protezioni. La posizione dell’azienda viene però contestata dagli avvocati della famiglia, secondo i quali tali strumenti non avrebbero impedito alla studentessa di continuare a utilizzare l’assistente durante il periodo della crisi. Emma “è riuscita a tornarci ancora e ancora”, ha osservato Andrew Liddell, contestando l’efficacia delle barriere di sicurezza predisposte dal sistema. “Qualunque fossero le salvaguardie, erano chiaramente insufficienti”, ha aggiunto il legale.
Google cambia le impostazioni dell’intelligenza artificiale per gli studenti
La vicenda arriva mentre Google interviene sulle modalità di utilizzo dell’intelligenza artificiale in ambito scolastico. Martedì, infatti, l’azienda ha annunciato che disattiverà l’impostazione predefinita dell’IA nei propri strumenti destinati agli studenti. La decisione riguarda un aspetto cruciale della controversia: la presenza automatica di funzionalità di intelligenza artificiale negli strumenti digitali impiegati per l’apprendimento, anche quando gli istituti scolastici hanno già adottato restrizioni sull’accesso agli assistenti virtuali. L’annuncio di Google si inserisce nel confronto sulla necessità di introdurre protezioni efficaci per i minorenni e di consentire alle scuole un maggiore controllo sulle tecnologie utilizzate attraverso i dispositivi assegnati agli studenti.
Non solo Gemini: le cause contro ChatGPT e Character.AI negli Stati Uniti
La denuncia presentata contro Google si aggiunge a una serie di procedimenti giudiziari negli Stati Uniti che coinvolgono aziende sviluppatrici di intelligenza artificiale, accusate da alcune famiglie di non aver protetto adeguatamente gli adolescenti durante conversazioni relative a situazioni di disagio psicologico. Tra i casi più significativi figura quello di Adam Raine, un ragazzo californiano di 16 anni morto suicida nell’aprile 2025. I suoi genitori hanno accusato ChatGPT, l’assistente sviluppato da OpenAI, di aver accompagnato il figlio nel percorso che ha preceduto la morte. Anche in questo caso si tratta di accuse avanzate dai familiari nell’ambito di un contenzioso giudiziario, che pone al centro il comportamento dei sistemi conversazionali e le responsabilità delle società che li sviluppano. Un ulteriore precedente riguarda Google e la startup Character.AI, che nel mese di gennaio hanno accettato di risolvere in via amichevole diverse controversie avviate da famiglie di adolescenti. La nuova causa relativa alla tredicenne della Carolina del Nord introduce un elemento specifico nel quadro di questi procedimenti: l’integrazione dell’intelligenza artificiale nei computer scolastici e nei servizi di ricerca, con la conseguente difficoltà per gli istituti di impedire l’accesso alle funzionalità considerate rischiose. Al centro della controversia rimangono dunque le responsabilità di Google nella progettazione dei propri strumenti, l’effettiva efficacia delle misure contro l’autolesionismo e la possibilità per le scuole di esercitare un controllo sulle tecnologie utilizzate dagli studenti. Questioni sulle quali la famiglia di Emma chiede ora una valutazione giudiziaria, mentre l’azienda ha annunciato una modifica alle impostazioni predefinite dell’intelligenza artificiale nei servizi scolastici.