Macchine sapienti, decisioni sapienti?

Le intelligenze artificiali, con tutto il loro potenziale e la loro capacità trasformativa, possono cambiare radicalmente il mondo che conosciamo. In maniera provocatoria potremmo dire che oggi, per la prima volta nella nostra storia, è la macchina a interpellarci”. Questo scrive nel suo libro “Le macchine sapienti” Paolo Benanti, docente alla Pontificia Università Gregoriana, esperto in bioetica e nel rapporto tra teologia morale, bioingegneria e neuroscienze.

La novità rispetto all’ – continua Benanti – è che potenzialmente cambierà tutte le cose che facciamo. Un po’ come per la corrente elettrica qualche anno fa, con la differenza che in quel caso la novità aveva una sua governance, arrivava dall’alto, mentre adesso le intelligenze artificiali entrano dal basso, ma sono pervasive e ci porteranno a delegare le nostre decisioni alle macchine. Ma siamo pronti per questo? E soprattutto, vista la velocità con cui questo sta avvenendo, siamo consapevoli di ciò che sta accadendo e comprenderne i rischi?”

Queste solo alcune delle tante domande che scorrendo le pagine del libro emergono e portano a riflettere sulle ripercussioni dell’applicazione delle intelligenze artificiali in diversi contesti. Partendo da alcuni esempi di decisioni distorte delle macchine in diversi ambiti che vanno dalla salute alla giustizia, pur non avendo una soluzione a come arginare rischi ed errori, si ribadisce che “se il futuro potrà essere migliore, più giusto e desiderabile, dipende solo dalla nostra gestione dell’innovazione. Solo un’innovazione che diventi autentico sviluppo umano saprà realizzare un futuro migliore evitando incubi distopici”.

Quale governance per le AI? Cosa si è fatto e si sta facendo a livello internazionale e nazionale?

Alcuni Governi si sono mossi prima di altri con l’obiettivo di riflettere sulla possibile regolamentazione delle intelligenze artificiali. Per esempio negli Stati Uniti, dove tutto è guidato dal mercato, sono i grandi player, come Microsoft per citarne uno, che hanno sollevato la questione e propongono possibili strade percorribili. In Cina, invece, tutto è centralizzato nelle mani dello Stato e c’è una linea di sviluppo verticale. In Europa ci si è posti il problema, si sono formate specifiche commissioni e si dovrà attendere la nuova legislatura per vedere partire i lavori. A caduta, i singoli Paesi stanno lavorando ai propri piani industriali. Penso alla Francia o alla Germania e anche all’Italia, dove è stato nominato dal MISE un gruppo di esperti, di cui anche io faccio parte, e che dovrà ragionare sui temi dell’AI e della . Ricette non ce ne sono, qualche esperienza interessante alla quale ispirarsi sicuramente sì, ma ancora tutto a livello teorico. Ciò che conta ora è avvertire la necessità di confrontarsi su questo tema oltre che parlarne tra persone con esperienze differenti: filosofi, giuristi, tecnologi, formatori, sindacalisti. Nessuno è escluso da questa discussione.

Le intelligenze artificiali, si legge nel libro, operano sui dati. I dati sono comprensibili come una mappa della realtà, ovvero una riduzione di quest’ultima, esattamente come succede per le mappe geografiche. Ma allora, una società “dataista”, che basa tutte le scelte sui dati, cosa rischia? Quale il correttivo da apportare?

Il potere acquisito dalle intelligenze artificiali deriva proprio dalla combinazione tra disponibilità dei dati e maggiore potenza di calcolo. Il dato da solo, però, non guida le scelte delle persone. Sappiamo, infatti, che le nostre decisioni sono influenzate da dati e valori etici. I dati da soli non bastano. Pensiamo che le AI decidono sulla base di mappe, che sono riduzioni della realtà, e mediante dati provenienti da sensori che compiono un’analoga riduzione, pertanto hanno al loro interno un fattore di fallibilità. La questione etica nasce da questo: occorre garantire che questa fallibilità non nuoccia ai valori ritenuti chiave e fondamentali. In altri termini, l’etica deve garantire, nella sua comprensione minimale, un sistema fail safe.

Discorso complesso quello che si può fare sull’equilibrio fra macchine sapienti e decisioni umane?

Le intelligenze artificiali sono i nuovi agenti che stanno guidando la trasformazione in atto. Per la prima volta nella storia, gli attori della trasformazione non sono una élite umana ma delle macchine e questo articolato panorama va indagato in tutta la sua complessità. Per comprendere le sfide e le potenzialità delle AI bisogna innanzitutto comprendere il lato umano della relazione uomo macchina. Bisogna partire dal fondamento, la specificità della cognizione umana, per capire qual è il contributo proprio e quale quello delle AI, e in che modo esse possono gestire ciò che è di loro competenza.

Facebook Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here