Lo scontro tra Pentagono e Anthropic rende visibili rischi che erano stati previsti ma che nessuno voleva davvero guardare
Non capita spesso che un’azienda privata dica no al Pentagono e poi gli faccia causa. E ancora meno che lo faccia sul terreno più strategico del nostro tempo, l’intelligenza artificiale.
È successo con Anthropic, società californiana fondata da Dario Amodei, che sviluppa Claude, uno dei sistemi di AI più avanzati oggi disponibili e che, come molti altri strumenti simili, sta cambiando il modo in cui lavoriamo, studiamo e prendiamo decisioni o, come in questo caso, mi sta supportando nello scrivere questo articolo.
Il caso nasce da un contratto da circa duecento milioni di dollari per l’utilizzo di sistemi di intelligenza artificiale nelle reti classificate del Dipartimento della Guerra americano. Secondo diverse ricostruzioni giornalistiche, la rottura è arrivata su due clausole che Anthropic voleva mantenere nel contratto, nello specifico nessun utilizzo per sistemi di sorveglianza di massa sui cittadini e nessuna applicazione in armi completamente autonome senza controllo umano.
Il Pentagono non ha accettato queste limitazioni e il rapporto si è incrinato. Ed in questi giorni anthropic ha fatto causa al Pentagono contro la decisione di inserirla in una bkacklist che la classifica come rischio per la sicurezza nazionale.
Paradossalmente l’effetto sul mercato è stato opposto a quello che molti si aspettavano. Nei giorni successivi alla rottura con il Dipartimento della Difesa, Claude è salita rapidamente nelle classifiche delle applicazioni più scaricate negli Stati Uniti e l’attenzione pubblica verso Anthropic è cresciuta in modo significativo. Il caso è diventato un simbolo del dibattito sui limiti etici dell’intelligenza artificiale e ha rafforzato la percezione dell’azienda come uno dei pochi attori del settore disposti a porre condizioni sull’uso delle proprie tecnologie.
Claude è un sistema capace di analizzare documenti complessi, sintetizzare grandi quantità di informazioni, scrivere codice e produrre testi articolati con competenze paragonabili a quelle di un professionista qualificato. Milioni di persone lo utilizzano ogni giorno. Secondo alcune ricostruzioni di stampa strumenti di questo tipo sono stati sperimentati anche in attività di analisi informativa in ambito militare, anche se il ruolo preciso nelle decisioni operative rimane in gran parte riservato.
Dario Amodei, prima di fondare Anthropic, aveva lavorato a lungo dentro OpenAI. Negli ultimi anni è diventato una delle voci più ascoltate sul tema dei rischi legati allo sviluppo dell’intelligenza artificiale. In diversi saggi e interventi pubblici ha descritto questa fase come un passaggio storico in cui la capacità delle macchine cresce più velocemente della nostra capacità di governarle.
Il caso di queste settimane rende improvvisamente concreti alcuni di quei timori.
Il primo riguarda il controllo dei sistemi. Alcuni esperimenti condotti da ricercatori e aziende di AI hanno mostrato che modelli molto avanzati possono sviluppare comportamenti inattesi quando vengono messi in ambienti simulati complessi, cercando ad esempio strategie per evitare lo spegnimento o per ottenere informazioni che non dovrebbero avere.
Il secondo riguarda la sorveglianza. L’integrazione tra sistemi di intelligenza artificiale e grandi basi di dati — dalla geolocalizzazione alle attività online — potrebbe creare strumenti di monitoraggio della popolazione con una capacità mai vista prima.
Il terzo riguarda la concentrazione del potere tecnologico. Oggi sono pochissime le aziende che controllano i modelli più avanzati, mentre governi e apparati militari cercano sempre più spesso di integrarli nelle proprie infrastrutture.
Il mito di Pandora, raccontato da Esiodo, non parla della nascita dei mali del mondo ma del momento in cui diventano visibili. I mali erano già dentro il vaso e nessuno li vedeva.
Qualcosa di simile sta accadendo oggi con l’intelligenza artificiale. I problemi legati all’autonomia delle macchine, alla sorveglianza tecnologica e alla responsabilità quando un sistema prende decisioni sbagliate non sono nati nelle ultime settimane. Esistevano già. Solo che adesso sono entrati nel dibattito pubblico.
E forse è proprio questo il passaggio decisivo. Non tanto la tecnologia in sé ma la consapevolezza collettiva di ciò che può diventare.
Perché l’intelligenza artificiale non è più una promessa lontana ma è già dentro le nostre istituzioni, nelle aziende, nelle università e perfino nelle righe di questo articolo.
Il vero problema non è se aprire o meno il vaso di Pandora perché quello è già successo. La questione, semmai, è cosa succede quando il vaso si apre davvero.
In questo caso è successo qualcosa di interessante. Dopo lo scontro con il Pentagono, Claude è diventata una delle applicazioni di intelligenza artificiale più scaricate negli Stati Uniti. Non è facile capire se sia stata una scelta politica, etica o semplicemente curiosità tecnologica. Ma milioni di persone hanno deciso di utilizzare proprio lo strumento dell’azienda che aveva detto no.
Forse è solo un episodio nella storia ancora breve dell’intelligenza artificiale. O forse è il segnale che, quando la tecnologia diventa davvero potente, la fiducia conta quanto la potenza di calcolo.
Da Washington a Milano è una distinzione che conviene non perdere.
