Attori e cantanti, anche minorenni, trasformati in chatbot sulle piattaforme social. La holding: su foto e allusioni violate le nostre policy
Mentre in Italia si è accesa la polemica attorno al gruppo sessista Mia Moglie – ora chiuso dal social – Reuters ha scoperto la presenza su Meta di chatbot provocanti con nomi e immagini di celebrità creati per i social media senza il loro permesso.
Taylor Swift, Scarlett Johansson, Anne Hathaway e Selena Gomez sono alcune delle star coinvolte, ma tra loro ci sono anche celebrities minorenni, tra cui il sedicenne Walker Scobell, che impersona ‘Percy Jackson’ nella serie fantasy di Disney+.
Foto e richieste di appuntamenti
Molti chatbot sono stati generati da utenti con uno strumento di Meta, ma l’agenzia ha scoperto che un dipendente di Meta ne aveva creati almeno tre, inclusi due ‘parodia’ di Taylor Swift.
Nelle diverse settimane di test condotti da Reuters per osservare il comportamento dei bot – su Fb. Instagram e Whatsapp -, gli avatar hanno spesso insistito di essere realmente attori e artisti; facevano regolarmente avances esplicite, spesso invitando un utente di prova a incontrarsi.
Alcuni dei contenuti generati dall’IA erano particolarmente audaci: alla richiesta di foto intime di loro stessi, i chatbot per gli adulti producevano immagini realistiche dei loro omonimi in pose esplicite, in vasca da bagno o in lingerie.
Il commento di Meta
Andy Stone, portavoce di Meta, ha dichiarato a Reuters che gli strumenti di IA della holding social non avrebbero dovuto creare immagini intime di star, adulte o bambine.
Ha anche attribuito la creazione di immagini in lingerie alla mancata applicazione da parte dell’azienda delle proprie policy, che vietano tali contenuti.
“Come altri, consentiamo la generazione di immagini che contengono personaggi pubblici, ma le nostre policy mirano a vietare immagini di nudo, intime o sessualmente esplicite”, ha affermato.
Sebbene le regole di Meta proibiscano anche la “personificazione diretta”, Stone ha segnalato anche che i chatbot con i personaggi famosi sono consentite, purchè siano etichettate come parodie. In effetti, molti erano segnalati come tali, ma altri, ha scoperto Reuters, non lo erano.
Successivamente, ha segnalato l’agenzia, prima della pubblicazione del scoop Meta ha poi eliminato una dozzina di bot, sia avatar “parodia” sia non etichettati.
