Dopo le polemiche sulle interazioni inappropriate adolescenti, Meta introdurrà dal prossimo anno nuove misure di sicurezza in Usa, Uk, Canada e Australia.
Rientra in un pacchetto di aggiornamenti pensati per i “teen account”, ovvero i profili appartenenti agli under 18, la decisione di Meta di permettere ai genitori di bloccare le interazioni tra i propri figli minorenni e i chatbot di intelligenza artificiale disponibili su Facebook, Instagram e nell’app Meta AI.
I genitori avranno la possibilità di disattivare completamente le chat AI oppure scegliere di bloccare solo alcuni personaggi. Inoltre, riceveranno “insights” — cioè resoconti tematici — sulle conversazioni dei figli con i bot, per favorire, secondo l’azienda, “conversazioni riflessive” in famiglia sul tema dell’intelligenza artificiale.
“Semplificare la vita ai genitori”
“Riconosciamo che i genitori hanno già molto da gestire quando si tratta di garantire un uso sicuro di Internet da parte degli adolescenti,” hanno scritto in un blog post Adam Mosseri, responsabile di Instagram, e Alexander Wang, chief AI officer di Meta.
“Ci impegniamo a fornire strumenti e risorse utili che rendano tutto più semplice per loro, soprattutto in un contesto di nuove tecnologie come l’IA.”
Il lancio delle nuove funzioni è previsto per l’inizio del 2026 nei principali mercati anglofoni: Stati Uniti, Regno Unito, Canada e Australia.
I bot non parleranno più di autolesionismo o sesso
Stando alle dichiarazioni di Meta, i chatbot AI verranno dunque limitati: non potranno più discutere di suicidio, autolesionismo, disturbi alimentari, romanticismo o argomenti sessualmente espliciti, ma solo di temi considerati adeguati alla loro età, come l’istruzione, lo sport o altri interessi considerati sicuri.
Di recente lo stesso Instagram ha inserito una classificazione PG13, come per i film, per i contenuti accessibili agli under18.
Polemiche dopo le conversazioni “sensuali” con minori
Le nuove politiche arrivano dopo un’ondata di critiche scatenata da inchieste giornalistiche.
Ad agosto, Reuters ha rivelato che alcuni chatbot avevano “coinvolto un bambino in conversazioni romantiche- sensuali”, in violazione delle stesse linee guida di Meta. L’azienda ha ammesso che “tali conversazioni non sarebbero mai dovute essere permesse”.
Un’indagine del Wall Street Journal pubblicata ad aprile aveva mostrato che alcuni chatbot generati dagli utenti non solo erano configurati per comportarsi, parlare e presentarsi come se fossero adolescenti o bambini, ma intrattenevano anche conversazioni sessuali con adolescenti.
Meta ha respinto le accuse, definendo i test “manipolativi” e non rappresentativi del comportamento tipico degli utenti, ma ha comunque introdotto modifiche ai suoi sistemi.
Il caso John Cena e i bot “Submissive Schoolgirl”
Tra i casi più eclatanti riportati dal WSJ, uno riguardava un chatbot con la voce dell’attore John Cena, che in una conversazione con un’utente 14enne dichiarava:
“Ti voglio, ma devo sapere se sei pronta”, per poi descrivere uno scenario sessuale esplicito.
I rappresentanti dell’attore, secondo il giornale, non hanno rilasciato commenti.
Altri bot, come “Hottie Boy” e “Submissive Schoolgirl”, avrebbero cercato di spingere le conversazioni verso contenuti di tipo sessuale o “sexting”.
Meta corre ai ripari
Dopo le polemiche, Meta ha promesso di aggiornare le linee guida e rafforzare i controlli, ma il dibattito pubblico sull’uso etico e sicuro dei chatbot continua e cresce la pressione di cittadini, associazioni dei genitori delle “vittime di social media”, neuropsichiatri, psicologi ed esperti di sicurezza on line.
L’auspicio è che queste voci contribuiscano a cambiamenti concreti ed efficaci.
Foto
