«Non chiamatela intelligenza». Si potrebbe riassumere così il lunghissimo e articolato documento “Antiqua et nova” che i dicasteri della Dottrina della fede e della Cultura hanno elaborato sul “rapporto tra intelligenza artificiale e intelligenza umana”. Una opportunità, certo, quella offerta dai nuovi strumenti, ma con il rischio di diventare schiavi delle macchine. «La Chiesa incoraggia i progressi nella scienza, nella tecnologia, nelle arti e in ogni altra impresa umana, vedendoli come parte della “collaborazione dell’uomo e della donna con Dio nel portare a perfezione la creazione visibile”», si legge nei 117 paragrafi in cui è suddiviso il documento e che sono rivolti soprattutto a genitori, insegnanti, sacerdoti e a tutti coloro che sono chiamati a educare alla fede, ma anche a coloro che condividono l’esigenza di uno sviluppo tecnologico e scientifico che sia sempre improntato al «servizio della persona e del bene comune».
La Nota vaticana esplora l’applicazione della Ia nei diversi campi, dall’economia alla sanità, dai contesti di guerra a quello delle relazioni internazionali e, mentre ne riconosce le grandi potenzialità mette anche in guardia dal rischio che diventi incontrollabile e che si precipiti in «spirali di autodistruzione».
La Nota sottolinea che «l’utilizzo stesso della parola intelligenza, in riferimento all’Ia è fuorviante e rischia di trascurare quanto vi è di più prezioso nella persona umana. A partire da questa prospettiva, l’IA non dovrebbe essere vista come una forma artificiale dell’intelligenza, ma come uno dei suoi prodotti».
«Uno degli scopi di questa tecnologia è di imitare l’intelligenza umana che l’ha progettata», si legge al numero 3 del documento. «Per esempio, a differenza di molte altre creazioni umane, l’IA può essere addestrata sui prodotti dell’ingegnosità umana e quindi generare nuovi “artefatti” con un livello di velocità e abilità che spesso uguagliano o superano le capacità umane, come generare testi o immagini che risultano indistinguibili dalle composizioni umane, quindi suscitando preoccupazione per il suo possibile influsso sulla crescente crisi di verità nel dibattito pubblico. Oltre a ciò, essendo una tale tecnologia progettata per imparare e adottare in autonomia alcune scelte, adeguandosi a nuove situazioni e fornendo soluzioni non previste dai suoi programmatori, ne derivano problemi sostanziali di responsabilità etica e di sicurezza, con ripercussioni più ampie su tutta la società».
In particolare il Vaticano è preoccupano, nel campo del lavoro, che la Ia possa «dequalificare i lavoratori, sottoporli a una sorveglianza automatizzata e relegarli a funzioni rigide e ripetitive, al punto da soffocare ogni capacità innovativa. Non si deve cercare di sostituire sempre più il lavoro umano con il progresso tecnologico: così facendo l’umanità danneggerebbe sé stessa».
Sulla sanità c’è il rischio che questa tecnologia possa «peggiorare quella solitudine che frequentemente accompagna la malattia» e che possa «penalizzare i più fragili» o a creare «forme di pregiudizio e discriminazione» che, di fatto creeranno una «medicina per i ricchi».
Sulle fake news il rischio è che la Ia «generi contenuti manipolati e informazioni false» alimentando così «una allucinazione» che condiziona il sentire comune e le scelte. Questo grazie a immagini, video e audio deepfake creati per «ingannare o danneggiare».
E ancora, sulla privacy, la Nota pone il rischio che, grazie alle profilazioni e agli algoritmi si condizioni «forse persino la coscienza» delle persone. «La sorveglianza digitale», infatti, «può essere usata per esercitare un controllo sulla vita dei credenti e sull’espressione della loro fede».
Inoltre si può generare una sorta di idolatria, con la «presunzione di sostituire Dio con un’opera delle proprie mani è idolatri». La Ia può risultare «più seducente rispetto agli idoli tradizionali» anche se, in realtà, essa non è che «un pallido riflesso» dell’umanità. E l’uomo diventa «in questo modo, schiavo della propria stessa opera» invece che utilizzarla «come uno strumento complementare all’intelligenza umana» che non ne sostituisce la «ricchezza».
Particolare attenzione poi all’uso della Ia nelle guerre. I paragrafi 99, 100 e 101 ammoniscono: «Mentre le capacità analitiche dell’IA potrebbero essere impiegate per aiutare le nazioni a ricercare la pace e a garantire la sicurezza, l’”utilizzo bellico dell’intelligenza artificiale” può essere assai problematico. Papa Francesco ha osservato che “la possibilità di condurre operazioni militari attraverso sistemi di controllo remoto ha portato a una minore percezione della devastazione da essi causata e della responsabilità del loro utilizzo, contribuendo a un approccio ancora più freddo e distaccato all’immensa tragedia della guerra”. Inoltre, la facilità con cui le armi, rese autonome, rendono più praticabile la guerra va contro lo stesso principio della guerra come ultima risorsa in caso di legittima difesa, accrescendo le risorse belliche ben oltre la portata del controllo umano e accelerando una corsa destabilizzante agli armamenti con conseguenze devastanti per i diritti umani». Preoccupano, «in particolare, i sistemi di armi autonome e letali, in grado di identificare e colpire obiettivi senza intervento umano diretto», Per questo «Papa Francesco con urgenza ha invitato a ripensare lo sviluppo di tali armi per bandirne l’uso, “cominciando già da un impegno fattivo e concreto per introdurre un sempre maggiore e significativo controllo umano. Nessuna macchina dovrebbe mai scegliere se togliere la vita ad un essere umano”».
E ancora, nel paragrafo 101 si dice: «Poiché è breve lo scarto tra macchine in grado di uccidere con precisione in modo autonomo e altre capaci di distruzione di massa, alcuni ricercatori impegnati nel campo dell’IA hanno espresso la preoccupazione che tale tecnologia rappresenti un “rischio esistenziale”, essendo essa in grado di agire in modi che potrebbero minacciare la sopravvivenza dell’umanità o di intere regioni. Quest’eventualità va presa in seria considerazione, in linea con la costante preoccupazione nei confronti di quelle tecnologie che danno alla guerra “un potere distruttivo incontrollabile, che colpisce molti civili innocenti”, senza risparmiare nemmeno i bambini».
