Opportunità e rischi dell'intelligenza artificiale

“Non trovo pace, chiamata delle arti”: è questo il tema della 28ª edizione di Giavera Festival, tenutosi dal 7 al 9 luglio a villa Wasserman. Bimbi esuberanti, anziani, giovani coppie hanno potuto ammirare l’artigianato di ogni luogo, dai tappeti in fibra vegetale, alle ceramiche, ai gioielli, agli abiti. Entrare in un mondo così creativo è stato quasi un liberarsi dal fardello di prestazione che coinvolge ognuno di noi. Posti a sedere esauriti per i dibattiti sul futuro dell’intelligenza artificiale, sul coraggio delle donne afghane e iraniane costrette all’estero, sull’Ungheria.

Dell’intelligenza artificiale ha parlato Teresa Scantamburlo, ricercatrice in Etica digitale a Ca’ Foscari, stimolata dalle domande di Elia Cavarzan, giornalista di Fanpage.
Gli studi sul tema sono iniziati intorno agli anni 50 per conoscere l’intelligenza umana attraverso la costruzione di modelli, di algoritmi, di macchine che la simulassero. Con il tempo, tutto si è evoluto in fretta e l’intelligenza artificiale che usiamo oggi ha abbandonato questo approccio, ma si basa su sistemi che interagiscono con l’ambiente in modo da raggiungere un obiettivo anche in maniera adattiva.
Per esempio, in ChatGpt l’intelligenza si esprime attraverso la capacità di rispondere alle domande: l’algoritmo non sa quello che gli andiamo a chiedere e non comprende la domanda, eppure risponde catturando relazioni tra parole adeguate all’ambiente, alle altre macchine e agli uomini.

Questi sistemi imparano accumulando esempi: è l’apprendimento automatico che permette di costruire algoritmi e da questi creare una funzione matematica per predire la classe degli oggetti che ancora non sono presenti. Una delle aree in cui l’intelligenza artificiale può produrre delle opportunità è la diagnostica. Esistono applicazioni che possono diagnosticare con un buon livello di attendibilità se, ad esempio, un neo è un melanoma o meno. Tutto si basa sulla predizione: l’algoritmo o più algoritmi ricevono in input tante immagini con l’etichetta corretta e guardando queste immagini riescono a elaborare e a restituire una classe che potrebbe essere binaria: melanoma sì, melanoma no. L’addestramento avviene su una serie di milioni, a volte trilioni di immagini e riesce a elaborare una funzione, una competenza, una risposta, un output senza regole esplicite, senza che nessuno spieghi il perché, ossia le caratteristiche e la forma del melanoma.

Il risultato dipende, infatti, dalla scelta di esempi che vengono proposti. Se un esempio su pelle scura non fosse inserito, il risultato potrebbe non essere attendibile. E allora, se l’intelligenza artificiale è un’opportunità in ogni campo, può essere anche un rischio. In Olanda, ad esempio, è stato ritirato il sistema Siri che veniva utilizzato per profilare i cittadini e assegnare sussidi. Sistematicamente le persone di alcune classi non riuscivano ad accedere, perché i dati nel sistema non trovavano alcuna corrispondenza in quella categoria. Rischio in medicina, anche se la percentuale di errore è uguale a quella degli specialisti, rischio discriminazione per pregiudizi non volontari, dovuti al tipo di dati registrati. E, altro punto problematico, è il consumo di energia. Questi dati non restano sospesi nell’aria, ma hanno necessità di macchine di accumulo e di elaborazione, macchine che succhiano energia. A tal proposito, racconta Elia Cavarzan, Amazon si è accaparrato il 55% di rinnovabile italiana.

L’Unione europea nel 2018 ha tracciato, prima di ogni altro Paese, le linee guida dell’intelligenza artificiale che tengono conto dell’impatto sociale e dell’ambiente; nel 2021 ha poi redatto una proposta di legge approvata nel giugno scorso che classifica i sistemi di intelligenza artificiale in base alle applicazioni d’uso.