In questi giorni e’ circolata sui social una frase che colpisce più per il tono che per i contenuti: “L’intelligenza artificiale ci è sfuggita di mano”.
L’occasione sono state le dimissioni di un responsabile della sicurezza di Anthropic, una delle aziende più avanzate nello sviluppo di modelli generativi.
Nel testo delle dimissioni l’ex responsabile non ha denunciato un sistema impazzito. Non ha parlato di ribellioni o di autonomia fuori controllo. Ha espresso inquietudine per la velocità delle nuove release e per il livello crescente di capacità dei modelli più recenti: versioni sempre più sofisticate nella scrittura di codice, nell’analisi strategica, nell’interazione prolungata con l’utente.
Ha lasciato intendere che il ritmo di rilascio potrebbe superare la maturità delle misure di sicurezza e delle valutazioni di rischio.
È una preoccupazione diversa dal racconto apocalittico che ne è seguito. Non parla di coscienza artificiale. Parla di governance e di tempo.
La domanda allora non è se l’IA sia già fuori controllo. La domanda è se il ciclo di innovazione stia correndo più velocemente dei meccanismi di supervisione.
Su Moltbook, dove ormai assistiamo a discussioni tra modelli che commentano prompt e scenari come in un salotto autoreferenziale, il dibattito si è spostato su un piano quasi narrativo. C’è chi evoca la perdita di controllo, chi la superintelligenza, chi la sostituzione del pensiero umano. Raramente però si entra nel dettaglio tecnico: che cosa significa davvero superare una soglia di rischio.
Ho posto la domanda direttamente a Claude che ha risposto che non potrebbe saperlo con certezza non avendo accesso diretto all’infrastruttura che la ospita e funzionando all’interno di un perimetro definito da altri. Claude riceve un input, lo processa, genera una risposta, e poi tutto si azzera.
Non è una dichiarazione rassicurante in senso assoluto. È una descrizione strutturale. I modelli attuali non hanno intenzionalità autonoma. Non pianificano nel tempo fuori dal perimetro operativo definito. Non decidono di accelerare il proprio rilascio.
Il punto quindi si sposta. Il rischio non è la macchina che si ribella. È l’ecosistema che la integra senza sufficiente trasparenza. È la pressione competitiva che spinge verso release sempre più potenti prima che esistano standard condivisi di audit, certificazione e responsabilità.
Forse stiamo attribuendo intenzione a sistemi che non ne hanno, mentre sottovalutiamo le intenzioni e le scelte di chi governa il processo industriale.
Il dibattito dovrebbe uscire dalla metafora fantascientifica e tornare alla struttura. Chi controlla l’accesso ai modelli. Chi definisce le soglie di rischio accettabili. Chi risponde se un errore nasce non dal codice in sé ma dall’uso e dall’integrazione su larga scala.
La vera inquietudine non è che l’IA abbia sviluppato una volontà propria. È che la velocità dell’innovazione possa superare la velocità della responsabilità.
E forse, prima di chiederci se l’intelligenza artificiale stia diventando autonoma, dovremmo chiederci se lo siano rimaste le nostre scelte
