Papa Francesco: “Spetta all’uomo decidere se diventare cibo per gli algoritmi”

“È capitato anche a me di essere oggetto” di “fake news” o “deep fake”, cioè della creazione e diffusione di notizie, suoni o immagini che sembrano perfettamente verosimili ma sono false. Lo scrive Papa Francesco, nel messaggio per la Giornata mondiale delle comunicazioni sociali, dedicato all’intelligenza artificiale, i cui sistemi “possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse” ma al tempo stesso essere “strumenti di inquinamento cognitivo, di alterazione della realtà tramite narrazioni parzialmente o totalmente false eppure credute – e condivise – come se fossero vere”. “La simulazione, che è alla base di questi programmi, può essere utile in alcuni campi specifici, ma diventa perversa là dove distorce il rapporto con gli altri e la realtà”, avverte il Papa.

“Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli algoritmi non sono neutri”, ribadisce Francesco stigmatizzando “i rischi e le patologie” della prima ondata di intelligenza artificiale, quella dei social media: “Il secondo livello di intelligenze artificiali generative segna un indiscutibile salto qualitativo. È importante quindi avere la possibilità di comprendere, capire e regolamentare strumenti che nelle mani sbagliate potrebbero aprire scenari negativi”. Pe questo “è necessario agire preventivamente, proponendo modelli di regolamentazione etica per arginare i risvolti dannosi e discriminatori, socialmente ingiusti, dei sistemi di intelligenza artificiale e per contrastare il loro utilizzo nella riduzione del pluralismo, nella polarizzazione dell’opinione pubblica o nella costruzione di un pensiero unico”. Di qui il rinnovo dell’appello, rivolto alla comunità delle nazioni, “a lavorare unita al fine di adottare un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme”.

“La rivoluzione digitale può renderci più liberi, ma non certo se ci imprigiona nei modelli oggi noti come echo chamber”, cioè quel fenomeno per cui non esiste la verità dei fatti, perché ciascuno ha selezionato e riceve solo le notizie e i commenti con i quali concorda a priori. In questi casi, “anziché accrescere il pluralismo dell’informazione, si rischia di trovarsi sperduti in una palude anonima, assecondando gli interessi del mercato o del potere”, il monito del Papa, secondo il quale “non è accettabile che l’uso dell’intelligenza artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non certificati, a una deresponsabilizzazione editoriale collettiva”.

“L’informazione non può essere separata dalla relazione esistenziale”, spiega Francesco: “implica il corpo, lo stare nella realtà; chiede di mettere in relazione non solo dati, ma esperienze; esige il volto, lo sguardo, la compassione oltre che la condivisione”. “Penso al racconto delle guerre e a quella ‘guerra parallela’ che si fa tramite campagne di disinformazione”, il primo esempio: “E penso a quanti reporter sono feriti o muoiono sul campo per permetterci di vedere quello che i loro occhi hanno visto. Perché solo toccando con mano la sofferenza dei bambini, delle donne e degli uomini, si può comprendere l’assurdità delle guerre”.

“L’uso dell’intelligenza artificiale potrà contribuire positivamente nel campo della comunicazione, se non annullerà il ruolo del giornalismo sul campo, ma al contrario lo affiancherà”, sostiene il Papa: “se valorizzerà le professionalità della comunicazione, responsabilizzando ogni comunicatore; se restituirà ad ogni essere umano il ruolo di soggetto, con capacità critica, della comunicazione stessa”.

“Come tutelare la professionalità e la dignità dei lavoratori nel campo della comunicazione e della informazione, insieme a quella degli utenti in tutto il mondo? Come garantire l’interoperabilità delle piattaforme? Come far sì che le aziende che sviluppano piattaforme digitali si assumano le proprie responsabilità rispetto a ciò che diffondono e da cui traggono profitto, analogamente a quanto avviene per gli editori dei media tradizionali?”. Sono alcune domande contenute nella parte finale del messaggio. “Come rendere più trasparenti i criteri alla base degli algoritmi di indicizzazione e de-indicizzazione e dei motori di ricerca, capaci di esaltare o cancellare persone e opinioni, storie e culture?”, prosegue Francesco: “Come garantire la trasparenza dei processi informativi? Come rendere evidente la paternità degli scritti e tracciabili le fonti, impedendo il paravento dell’anonimato? Come rendere manifesto se un’immagine o un video ritraggono un evento o lo simulano? Come evitare che le fonti si riducano a una sola, a un pensiero unico elaborato algoritmicamente?”.

“Dalle risposte a questi e ad altri interrogativi – sostiene il Papa – capiremo se l’intelligenza artificiale finirà per costruire nuove caste basate sul dominio informativo, generando nuove forme di sfruttamento e di diseguaglianza; oppure se, al contrario, porterà più eguaglianza, promuovendo una corretta informazione e una maggiore consapevolezza del passaggio di epoca che stiamo attraversando, favorendo l’ascolto dei molteplici bisogni delle persone e dei popoli, in un sistema di informazione articolato e pluralista”. Da una parte, infatti, “si profila lo spettro di una nuova schiavitù, dall’altra una conquista di libertà; da una parte la possibilità che pochi condizionino il pensiero di tutti, dall’altra quella che tutti partecipino all’elaborazione del pensiero”. “La risposta non è scritta, dipende da noi”, conclude il Santo Padre: “Spetta all’uomo decidere se diventare cibo per gli algoritmi oppure nutrire di libertà il proprio cuore, senza il quale non si cresce nella sapienza”.