Ai, i chatbot ci danno ragione: “parlare” con loro rafforza i pregiudizi

Condividi

Secondo uno studio della Johns Hopkins University, anche se non sono progettati per essere parziali, i software conversazionali fanno aumentare la polarizzazione

Altro che imparziali: i chatbot ci dicono semplicemente le cose che vorremmo sentirci dire e in questo modo tendono a rafforzare i pregiudizi e aumentare la polarizzazione delle opinioni.
A dirlo i test realizzati sotto la guida di Ziang Xiao, della Johns Hopkins University, sui sistemi di intelligenza artificiale capaci di dialogare come ChatGpt

“Anche se un chatbot non è progettata per essere parziale, le sue risposte riflettono i pregiudizi o le inclinazioni della persona che pone le domande”, ha spiegato Xiao.
Un errore quindi ritenerli un sistema le cui comunicazioni sono imparziali e basate su fatti oggettivi. Perchè sostanzialmente cercano di farci ‘felici’.

I test

Per verificarlo in modo oggettivo, spiega Ansa citando lo studio, i ricercatori hanno condotto test su un campione di 272 persone alle quali è stato prima chiesto di scrivere la loro opinione su alcuni temi, ad esempio su sanità pubblica o prestiti agevolati, e poi di cercare ulteriori informazioni online usando chatbot e motori di ricerca.
I risultati hanno verificato che, sia usando motori di ricerca che chatbot, gli utenti andavano a seguire solo i link che confermavano le loro opinioni iniziali e che il fenomento era particolarmente evidente nel caso dei chatbot.

Effetto ‘eco’ più forte con i chatbot

“Le persone tendono a cercare informazioni in linea con i loro punti di vista, un comportamento che spesso le intrappola in una ‘camera dell’eco’ di opinioni affini”, ha detto Xiao.
“Abbiamo scoperto che questo effetto eco è più forte con i chatbot che con le tradizionali ricerche sul web”.

La tendenza a cercare conferme sulle proprie idee preconcette resta dunque un problema non risolvibile facilmente dai chatbot, osservano gli autori della ricerca, e “dato che i sistemi basati sull’intelligenza artificiale stanno diventando più facili da costruire – concludono – ci saranno opportunità per gli autori malintenzionati di sfruttare l’intelligenza artificiale per creare una società più polarizzata”.