Nel documento dei teologi approvato dal Pontefice torna forte il richiamo sui rischi di una tecnologia che ormai permea tutti i livelli della società e dell’economia e che possa essere piegata a logiche di potere e manipolazione. L’invito è quello di vigilare sul progresso per evitare che possa portare a uno condizione ‘dis-umana’
L’intelligenza artificiale, che certamente può aiutare l’uomo a prendere una serie di decisioni, deve essere sempre governata. E’ l’indicazione che arriva dal nuovo documento della Commissione teologica internazionale approvato da Papa Leone. ‘Quo vadis, humanitas? Pensare l’antropologia cristiana di fronte ad alcuni scenari sul futuro dell’umano’, il titolo del testo diffuso mentre gli scenari geopolitici rendono il tema – e non solo per i battibecchi tra Pentagono e Anthropic – terribilmente attuale.
L’intelligenza artificiale “satura e determina in modi sottili ogni aspetto della vita. Ne è risultato un mondo ‘iperconnesso’, con una crescente accelerazione delle dinamiche economiche, politiche, sociali o militari, che rischiano di diventare incontrollabili e quindi ingovernabili”, si legge nel documento nel quale si sottolinea anche che il rischio è finire soggetti a “finalità di potere o di mercato non sempre trasparenti. Aumenta il controllo sociale e il rischio di manipolazione”.
I timori sul fronte militare e non solo
Ci sono poi settori delicati, come quello militare, che, secondo la Commissione teologica, non possono essere appannaggio dell’intelligenza artificiale.
“A livello applicativo, l’IA in senso stretto pone problemi sull’affidabilità dei dati e sui criteri con cui i programmatori li elaborano per metterli a disposizione. Non è chiaro quali pregiudizi o sistemi di potere condizionano il lavoro”.
“In particolare, seri dubbi – è l’opinione degli esperti vaticani di teologia – sorgono riguardo ai processi decisionali automatizzati, basati sull’IA, in ambiti delicati della vita umana: quando si deve stabilire di prestare o meno cure a livello medico o di concedere prestiti o mutui o di garantire assicurazioni, o ancora nell’istruire le cause penali in tribunale o nel valutare la condotta dei carcerati e le possibili recidive in vista di riduzioni di pena, oppure nelle scelte di attacco militare o negli interventi delle forze dell’ordine”.
Progresso, super-uomo e dis-umano
Nel documento un invito anche a vigilare sul progresso scientifico per evitare la ricerca del “super-uomo”, andando oltre l’umano. Per la Commissione teologica “resta da domandarsi se questo sogno di un passaggio verso una fase oltre-umana non porterà piuttosto ad una condizione ‘dis-umana’”.
“Proprio l’accelerazione innescata dalle scoperte scientifiche e tecnologiche, propiziate da condizioni economiche e costellazioni politiche favorevoli, chiede di verificare – sottolineano i teologi – il senso e la direzione di questo ‘sviluppo’, sia nel confronto con altre categorie, come il ‘progresso’ o l”evoluzione’ piuttosto che la ‘regressione” o il ‘declino’, sia soprattutto quanto all’istanza di un miglioramento dell’umano, fino a giungere alla ricerca di un ‘super-uomo’”.
