OpenAI ha sospeso a tempo indeterminato i suoi progetti per un chatbot con contenuti sessualmente espliciti.
Ad annunciarlo è lo stesso gruppo Usa a fronte delle crescenti preoccupazioni sui rischi sociali e reputazionali legati al lancio di un simile prodotto. La decisione arriva mentre il colosso dell’intelligenza artificiale cerca di abbandonare quelli che i dirigenti hanno definito progetti periferici, nel tentativo di mantenere la leadership nel mercato dell’Ia. OpenAI ha dichiarato al ‘Financial Times’, di voler condurre ricerche a lungo termine sugli effetti delle conversazioni sessualmente esplicite e dei legami emotivi prima di prendere qualsiasi decisione sul prodotto. Interpellato per un commento, un portavoce di OpenAI ha riferito all’Agence France-Presse che l’azienda “non ha nulla da aggiungere”.
La funzione di contenuti espliciti, internamente chiamata “Citron mode”, aveva suscitato resistenze sia tra i dipendenti sia tra gli investitori, secondo quanto ha riferito il ‘Financial Times’. Alcuni dipendenti hanno messo in dubbio la compatibilità del prodotto con la missione dichiarata di OpenAi, ovvero garantire che la tecnologia porti benefici all’umanità, mentre gli investitori hanno espresso timori sui rischi reputazionali rispetto ai possibili vantaggi economici.
Lo scorso anno OpenAI – riporta Adnkronos – aveva affermato che avrebbe allentato alcune restrizioni del suo chatbot ChatGpt, includendo la possibilità di contenuti erotici per utenti adulti verificati, come parte del principio di “trattare gli adulti come adulti”. L’abbandono del progetto arriva nella stessa settimana in cui OpenAi ha annunciato la chiusura della sua app social video Sora, accusata di aver contribuito a un’ondata di contenuti generati dall’Ia di scarso valore online. Queste decisioni giungono in un momento delicato per il settore tecnologico, con Meta e altre società di social media alle prese con una serie di cause legali e nuove regolamentazioni legate all’impatto delle loro piattaforme sui minori. La Federal Trade Commission degli Stati Uniti ha inoltre avviato un’indagine su diverse aziende tecnologiche, tra cui OpenAi, per valutare come i chatbot basati su Ia possano influenzare negativamente bambini e adolescenti. Anche la società rivale di Elon Musk, xAi, è finita sotto accusa a livello globale lo scorso anno dopo che il suo chatbot Grok è stato utilizzato per generare immagini fake sessuali falsificate, inclusi minori.
Sam Altman (foto LaPresse)
