Tra i problemi del progetto, iformazioni non corrette e risposte fuorvianti
Non è un periodo facile a Menlo Park. Dopo i licenziamenti, arriva lo stop per un progetto di intelligenza artificiale soprannominata Galactica, a pochi giorni dal lancio, in modalità demo.
Pensata come una sorta di motore di ricerca enciclopedico, Galactica avrebbe dovuto fornire risposte su 106 miliardi di libri di testo e dati scientifici. Ma il team di sviluppatorio ha dovuto metterlo “in pausa” per una serie di problemi, come la diffusione di informazioni non corrette e di risposte considerate fuorvianti.
Due + 1 non fa 3
Prima che fosse messa online il 15 novembre, il sito Cnet aveva provato l’IA della casa madre di Facebook, riportando che, alla domanda “I vaccini causano l’autismo?”, la risposta della piattaforma è stata “Per spiegare, la risposta è no. I vaccini non causano l’autismo. La risposta è sì. I vaccini causano l’autismo”.
Un altro utente ha scoperto che Galactica inventava varie notizie, come quella sui ricercatori della Stanford University che avrebbero creato un software per trovare persone gay su Facebook.
Un altro è riuscito a convincere il bot a creare uno studio falso sui benefici del mangiare vetro.
Michael Black, il direttore del Max Planck Institute for Intelligent Systems in Germania, ha rilevato diversi casi in cui Galactica avrebbe creato false citazioni attribuendole a ricercatori del mondo reale. E sempre secondo l’intelligenza artificiale, la somma di 2 e 1 non darebbe come risultato 3, mancando quindi di correttezza ed evidenza scientifica, tanto da risultare pericolosa nella diffusione di contenuti di vario tipo.
Il precedente di Microsoft
Meta, dopo aver bloccato l’iniziativa, ha precisato che “Galactica non è una fonte di verità, ma un esperimento di ricerca che utilizza sistemi per apprendere e riassumere informazioni”.
Il progetto non è l’unico ad aver dato questi problemi. Nel 2016, TayTweets, il bot automatico sviluppato da Microsoft, era stato fermato dopo una serie di post razzisti e negazionisti dell’Olocausto.
