Nuove misure di sicurezza dopo la causa della famiglia dell’adolescente californiano che si è tolto la vita.
OpenAI introdurrà un sistema di notifiche per avvisare i genitori se i propri figli adolescenti mostrano segni acuti di disagio psicologico, mentre utilizzano ChatGPT.
La funzione sarà disponibile nelle prossime settimane, come parte di un pacchetto di nuove misure di protezione per i minori.
Un caso tragico ha acceso l’allarme
La decisione arriva a pochi giorni dalla notizia della causa legale intentata dalla famiglia di Adam Raine, il 16enne californiano che si è tolto la vita lo scorso aprile.
Stando agli atti del tribunale, il giovane avrebbe ricevuto da ChatGPT istruzioni su come suicidarsi e assistenza nella stesura di una lettera d’addio. Inoltre la famiglia Raine sostiene che ChatGPT sia stata “lanciata sul mercato troppo in fretta…nonostante i chiari problemi di sicurezza”.
OpenAI ha ammesso che il sistema ha fallito, perchè nelle conversazioni più lunghe l’efficacia della formazione sulla sicurezza dei suoi modelli di IA peggiora.
Le nuove misure
Sul blog di OpenAI in un post che illustra i piani futuri si legge che molti giovani che “sono tra i primi ‘nativi dell’IA” e che, insieme alle lorofamiglie hanno bisogno di “linee guida sane, adeguate alla fase di sviluppo del minore.”
Per questo tra le nuove funzionalità annunciate ci sono: il collegamento tra account dei genitori e quelli dei figli; Impostazioni per limitare le risposte dell’IA in base all’età dell’utente; e la possibilità di disattivare memoria e cronologia delle conversazioni per evitare che l’IA costruisca un profilo a lungo termine del minore e riproponga vecchi commenti su difficoltà personali, aggravando così il disagio psicologico.
Nel Regno Unito, infatti, il codice di condotta dell’Information Commissioner’s Office per la progettazione dei servizi online raccomanda alle aziende tecnologiche di “raccogliere e conservare solo il minimo indispensabile di dati personali necessari per fornire le funzionalità del servizio a cui il minore partecipa in modo attivo e consapevole”.
Dati preoccupanti sull’uso dell’IA tra i giovani
Il Guardian, riporta che, secondo una ricerca statunitense, un terzo degli adolescenti utilizza chatbot IA per scopi sociali ed emotivi, inclusi giochi di ruolo, relazioni sentimentali e supporto psicologico.
Nel Regno Unito, invece, il giornale britannico segnala che il 71% dei minori vulnerabili interagisce regolarmente con chatbot IA, e il 60% dei genitori teme che i figli non distinguano tra IA e persone reali.
Le critiche: “Misure tardive e insufficienti”
La Molly Rose Foundation, creata dal padre di una quattordicenne morta suicida nel 2017, ha definito “imperdonabile” il fatto che prodotti IA vengano lanciati sul mercato prima di essere sicuri per i minori.
Il suo ceo, Andy Burrows, chiede un’indagine formale da parte dell’Ofcom, l’ente regolatore britannico per le comunicazioni, per verificare eventuali violazioni dell’Online Safety Act da parte di OpenAI.
Le mosse degli altri colossi tech
Al momento Anthropic vieta l’uso ai minori di 18 anni del suo chatbot Claude, mentre Google consente l’accesso a Gemini AI anche ai minori di 13 anni, con controlli parentali tramite Family Link. Avverte però che il giovane utente potrebbe incappare in “contenuti indesiderati”.
Meta ha già introdotto filtri tematici che impediscono all’IA di parlare con adolescenti di suicidio, autolesionismo e disturbi alimentari, indirizzandoli invece verso destinazioni gestite da professionisti, come i Samaritans attivi in Uk e Irlanda, il National Suicide Prevention Lifeline negli Usa e Lifeline in Australia.
