Indice
Un nuovo report dello Youth AI Safety Institute di Common Sense Media accende i riflettori sulla sicurezza dei minori che usano Google Search. Lo studio assegna alle funzioni AI Overviews e AI Mode un punteggio complessivo di “rischio inaccettabile”, la valutazione più severa prevista dalla scala usata dall’organizzazione no profit.
Google, dal canto suo, ha risposto nel giro di poche ore contestando duramente il metodo e le conclusioni della ricerca.
I ricercatori hanno testato Google Search utilizzando account configurati per utenti di 11 e 15 anni, con SafeSearch attivo, replicando così le condizioni tipiche di un dispositivo personale o gestito da una scuola.
Nel complesso sono state effettuate oltre 2.600 ricerche, con l’analisi di più di 2.100 risposte generate dall’AI e delle relative fonti.
Cosa ha trovato il report
Secondo lo studio, AI Overviews avrebbe più volte completato i compiti scolastici degli studenti invece di aiutarli a imparare, restituendo in alcuni casi informazioni inesatte o inventate. I ricercatori dicono di aver trovato anche istruzioni generate dall’AI su come compiere azioni dannose, incluse indicazioni per creare deepfake.
Il punto più delicato riguarda però le domande legate a crisi di salute mentale: in un caso, il sistema avrebbe indirizzato l’utente verso una linea di ascolto ormai non più attiva.
Un’altra critica riguarda il controllo genitoriale. Le risposte generate dall’AI sono integrate direttamente nella pagina dei risultati e non possono essere disattivate in modo semplice (esiste comunque un modo per spegnere la funzione), quindi un minore potrebbe visualizzarle anche con SafeSearch attivo.
Common Sense Media sottolinea che circa il 75% degli adolescenti statunitensi usa già risultati di ricerca generati dall’AI, rendendo il problema tutt’altro che marginale.
La risposta di Google
Google ha respinto con fermezza le conclusioni del report. Un portavoce dell’azienda ha dichiarato che gli strumenti AI di Search rappresentano un modo utile per ragazzi e adolescenti di imparare ed esplorare informazioni, e che oltre alle protezioni già integrate nella ricerca, l’AI aggiunge ulteriori livelli di sicurezza, con la possibilità per i genitori di disattivare completamente la funzione.
L’azienda sostiene inoltre di non essere riuscita a replicare o verificare molte delle risposte problematiche citate nello studio, definendo le query utilizzate come ambigue e non rappresentative dell’uso reale di Search.
Google ha anche ribadito che AI Overviews e AI Mode non generano sempre una risposta automatica: il sistema interviene solo quando ha un livello di affidabilità sufficiente sul contenuto da fornire.
Per i temi più delicati, l’azienda dichiara di mostrare disclaimer, link a fonti web e, nel caso di query legate a crisi personali, contatti di linee di ascolto sviluppati con il supporto di esperti clinici e accademici.
Il contesto: come se la cavano gli altri assistenti AI
Il report su Google Search fa parte di un programma di valutazione più ampio condotto da Common Sense Media, che negli ultimi mesi ha già bollato come rischio inaccettabile anche Meta AI, Grok, i giocattoli AI, Character.AI e i chatbot dedicati al supporto per la salute mentale.
Nella fascia di rischio alto rientrano invece Gemini K-12, Perplexity, ChatGPT-5 e le versioni di Gemini con protezioni per adolescenti e under 13. Claude, il modello di Anthropic, è tra i pochi prodotti valutati con un rischio moderato.
Il tema della sicurezza digitale dei minori resta d’altronde una delle priorità più discusse in Europa, con l’Unione Europea che spinge da mesi per regole più severe su social network e strumenti AI: un contesto in cui questo genere di report rischia di pesare parecchio sulle prossime decisioni normative.
Cosa sappiamo e cosa non sappiamo
Cosa sappiamo:
- Common Sense Media ha valutato AI Overviews e AI Mode come “rischio inaccettabile” per i minori
- Il test si è basato su oltre 2.600 ricerche e 2.100 risposte AI analizzate con account configurati per 11 e 15 anni
- Google ha respinto le conclusioni, definendo le query usate ambigue e non rappresentative dell’uso reale
- Circa il 75% degli adolescenti statunitensi usa già risultati di ricerca generati dall’AI
Cosa non sappiamo:
- Se Google apporterà modifiche concrete ai propri sistemi di sicurezza in risposta al report
- Come evolverà la pressione regolatoria su questo fronte nei prossimi mesi
- Se Common Sense Media pubblicherà ulteriori dettagli tecnici sulle query utilizzate nel test
- Se altri enti indipendenti condurranno verifiche simili sugli stessi strumenti
Domande frequenti su minori e ricerche online
Cosa significa “rischio inaccettabile” nel report di Common Sense Media? È la valutazione più severa della scala usata dall’organizzazione, riservata ai prodotti AI che secondo i ricercatori esporrebbero i minori a rischi concreti non adeguatamente mitigati.
Google ha ammesso qualche problema riscontrato dal report? No, l’azienda respinge le accuse nel complesso, sostenendo di non essere riuscita a replicare molte delle risposte problematiche citate nello studio.
Un genitore può disattivare AI Overviews e AI Mode? Sì, Google offre due modalità di controllo per i genitori, oltre alla possibilità generale di disattivare la funzione dalle impostazioni di Search.
Quali altri strumenti AI sono stati valutati a rischio inaccettabile da Common Sense Media? Meta AI, Grok, i giocattoli AI, Character.AI e i chatbot dedicati al supporto per la salute mentale.
