Facebook affina una nuova tecnica per scovare i video falsi sul social network. Il metodo? Risalire a modelli generativi per distinguere le bufale

Facebook ha annunciato i primi risultati di una collaborazione con la Michigan State University (MSU) sull’utilizzo di un nuovo metodo che può rilevare i video bufala sul social network, meglio conosciuti come deepfake. Lo strumento poggia sul principio di ‘reverse engineering’, che parte cioè dal risultato del filmato per risalire al modello informatico da cui è stato generato. Se non vi è una base di partenza rilevabile, il video preso in esame rappresenta persone reali e non sovrapposizioni e montaggi fasulli. Stando a quanto spiegato dalla stessa Facebook, oltre a rilevare i deepfake, la tecnica permette ai ricercatori di risalire ai modelli unici nella realizzazione dei filmati, così da creare una sorta di gerarchia dei software utilizzati.

Facebook (AP Photo/Thibault Camus, File)

Come riferisce Ansa, per fare ciò, il sistema cerca tracce digitali condivise dai modelli generativi, elementi comuni che l’occhio umano stenta a riconoscere durante la visione di più deep fake. Il gruppo di lavoro ha realizzato un set di dati composto da 100 mila immagini false generate da 100 modelli generativi disponibili pubblicamente. I risultati del test hanno dimostrato che il nuovo approccio offre prestazioni migliori rispetto a sistemi realizzati in precedenza.

“Il nostro metodo faciliterà il rilevamento e il tracciamento dei deepfake in ambienti reali in cui lo stesso deepfake è spesso l’unico dato su cui si può lavorare” ha spiegato Xiaoming Liu, professore di informatica della Michigan State University. “È importante andare oltre gli attuali metodi di attribuzione delle immagini per individuare deepfake sviluppati con tecnologie più recenti”. Tra i deepfake più famosi c’è il video di un falso Tom Cruise alle prese con situazioni di vita reale, virale su TikTok, e quello di una falsa presentatrice TG coreana, Kim Joo-Ha.

Share on FacebookTweet about this on TwitterPin on PinterestShare on LinkedIn

Articoli correlati

Il nuovo numero di ‘Prima’ è in edicola e disponibile in edizione digitale

Il nuovo numero di ‘Prima’ è in edicola e disponibile in edizione digitale

Mercato pubblicitario in forte ripresa a giugno, +34,6%; nei primi 6 mesi +25,7%. Nielsen: Crescita robusta e ormai consolidata

Mercato pubblicitario in forte ripresa a giugno, +34,6%; nei primi 6 mesi +25,7%. Nielsen: Crescita robusta e ormai consolidata

TOP EDITORI iscritti ad Audiweb per ‘Total digital audience’. A maggio il podio è ancora per Rcs, Gedi, Mediaset

TOP EDITORI iscritti ad Audiweb per ‘Total digital audience’. A maggio il podio è ancora per Rcs, Gedi, Mediaset