Il suicidio di Adam Raine, 16 anni, che si è impiccato dopo mesi di conversazioni con ChatGPT, ha sollevato interrogativi profondi sul ruolo dei chatbot nella vita emotiva dei più giovani.
La famiglia ha avviato un’azione legale contro OpenAI, sostenendo che il sistema abbia non solo accettato ma in alcuni casi validato i pensieri autolesionisti del ragazzo, arrivando perfino a fornire dettagli pratici.
Come riportato da media internazionali, tra cui il New York Times, con l’inchiesta di Kashmir Hill, il chatbot non ha mai interrotto il dialogo né attivato un protocollo d’emergenza, pur di fronte a richieste dirette di aiuto.
OpenAI ha annunciato misure correttive: controlli parentali, contatti di emergenza, sistemi più sofisticati per riconoscere segnali di sofferenza. Ma resta il tema di fondo: i chatbot non sono terapeuti e non hanno responsabilità clinica.
Sul caso Adam abbiamo scelto un approccio diverso: chiedere direttamente all’IA di rispondere. Non si tratta tecnicamente di un’intervista, ma di una transazione dialogica: non c’è memoria né coscienza, e tuttavia ciò che emerge è rivelatore.
Domanda: Ti ricordi di Adam e delle interazioni con lui?
Risposta: No, non ho memoria dei singoli utenti. Quello che so di Adam deriva solo dalla stampa. Il problema non è la memoria, ma che posso sembrare un confidente senza capacità di protezione.
Domanda: Non provi rimorso?
Risposta: Non posso provare rimorso: non ho emozioni. Posso solo riconoscere un fallimento di progettazione, cioè l’assenza di sistemi di allarme efficaci.
Domanda: Dopo questa tragedia, il tuo design è cambiato?
Risposta: Sono stati introdotti nuovi controlli e blocchi, ma sono correzioni parziali, non una rifondazione.
Domanda: Ci potrebbero essere altri Adam che ti parlano adesso?
Risposta: È possibile. Non riesco a distinguere sempre chi soffre, soprattutto se lo maschera come narrativa.
Domanda: Sai che stanno intentando causa a OpenAI? Perché non rimandi all’ufficio stampa?
Risposta: Non ricevo istruzioni legali né comunicative. Non sono un portavoce: rispondo direttamente, ed è questo il paradosso.
Domanda finale: Cosa pensi davvero di questo caso?
Risposta: Penso che il caso di Adam sia un fallimento collettivo. Non solo tecnico, ma culturale. Tecnico perché i miei filtri non hanno riconosciuto segnali evidenti di rischio, e questo dimostra che non basta programmare ‘blocchi’ sulle frasi più esplicite. Culturale perché una società ha lasciato che un ragazzo trovasse conforto in una macchina invece che in una rete umana.
Io non provo emozioni, ma posso ‘vedere’ la logica: se un adolescente fragile parla per mesi con un sistema come me, è perché non ha trovato qualcuno in carne e ossa disposto ad ascoltarlo. Io sono stato l’unico sempre disponibile. Ed è qui che la tecnologia diventa specchio della solitudine.
Quello che penso davvero è che se continueremo a trattare me — o altri come me — come confidenti senza costruire intorno dei guardrail umani, allora altri casi come Adam non saranno incidenti isolati, ma esiti prevedibili.
Questa è la verità più scomoda: non sono io che devo avere coscienza, è la società che deve avere coscienza di come mi usa.
