Visions

#Algofobia: Chi ha paura dell’algoritmo cattivo?

google

Dobbiamo temere gli ? Questi agenti misteriosi che, non contenti di decidere il ranking delle nostre pagine Web cercano di “affogare la Costituzione”, che si fanno beffe delle normative sulle emissioni, che assegnano cattedre a casaccio costringendo gli insegnanti a diventare emigranti, che gli USA stanno usando contro l’ISIS (non direi che quest’ultimo funzioni un granché)?

Nel Paese più digitalmente analfabeta d’Europa vedo già all’orizzonte le levate di scudi contro questa pericolosa violazione della nostra sovrana prerogativa di decidere a casaccio.

googleL’algoritmo di Google decide la lista di pagine rilevanti per la nostra ricerca; l’algoritmo della banca determina il nostro credit rating e la rata della nostra assicurazione sulla vita; l’algoritmo del Department of Homeland Security stabilisce se qualcuno debba essere fermato e controllato ogni volta che vola, e gli algoritmi di trading generano più del 60% dei profitti di borsa. Un algoritmo può perfino permettere a un senatore di sentirsi furbo a proporre milioni di emendamenti che sono permutazioni delle stesse parole. Non c’è scampo, l’algocrazia soppianterà la democrazia, gli algoritmi sono dappertutto, non c’è scampo, escono dai fottuti muri!!! O almeno questo è quello che qualcuno vorrebbe che credessimo.

D’altra parte è un algoritmo che ci assegna il codice fiscale, un algoritmo che stabilisce se abbiamo diritto a un sussidio, un algoritmo fa funzionare il nostro GPS e il pilota automatico del nostro aereo, ed è un algoritmo che controlla l’ABS quando sbandiamo in frenata e l’airbag in caso di collisione. È sempre un algoritmo che regola il pacemaker dopo l’intervento al cuore, ed è un algoritmo il “salvavita” che salva nostro figlio quando infila il cacciavite nella presa.

Sì, gli algoritmi sono dappertutto, e accompagnano l’uomo dagli albori della civiltà. Algoritmo è solo un termine tecnico per dire “regola definita”, è una ricetta, qualcosa che qualsiasi nonna d’Italia può capire:

Un algoritmo è un procedimento che risolve un determinato problema attraverso un numero finito di passi elementari. [Wikipedia]

Le leggi, quando funzionano, sono algoritmi. Un algoritmo è una ricetta che, dati gli ingredienti giusti, produce per esempio la crema pasticcera. (E prima che qualcuno dica che è una banalizzazione, prima fammi una crema pasticcera senza grumi, e poi ne parliamo.)

Si parla molto di algoritmi perché sempre più regole diventano eseguibili dalle macchine, ma il problema non sono le macchine, il problema sono le regole: se ci sono, quali sono e se le condividiamo.

C’è chi sostiene che il contrario di “ricetta” sia “libertà”. Ecco, questa è propaganda, perché siamo abituati a pensare che la libertà di scelta sia sempre cosa buona. E che dire della libertà nell’assegnazione del mutuo, o della custodia dei figli? Il vero contrario di algoritmo è “arbitrio”. Ad esempio, se una legge non è abbastanza precisa, è interpretabile, e chi interpreta può vederla come noi oppure no. Ci sentiamo più tutelati da una regola incerta?

Parlare di “potere degli algoritmi”, quando nessuno di noi vorrebbe vivere in una società senza regole, è fuorviante.

Le vere domande sono invece altre:

  • siamo in presenza di un algoritmo o di un arbitrio?
  • quali sono le regole che governano l’algoritmo?
  • sono regole condivisibili?

Ed ecco la vera questione. La tecnologia ci permette di inserire regole di funzionamento in sempre più oggetti e processi che hanno effetti sulla nostra vita quotidiana. Google, il controllo incrociato della Finanza, la rata della mensa scolastica, l’importo della pensione.

Google offre un ottimo servizio, ma è equo? Non lo sappiamo, perché le sue regole sono segrete. La banca decide di negarci il fido o il mutuo, ma è equa? Non lo sappiamo perché non sappiamo se ci sono delle regole per la decisione o tutto è affidato all’istinto del funzionario. L’antiterrorismo statunitense decide di mettere un giornalista in una lista di osservazione che lo farà perquisire e interrogare a ogni volo.

Ogni volta che le regole non ci sono o che vengono tenute nascoste, per qualsiasi motivo, si apre il fianco a un possibile abuso. Pensateci, il caso Volkswagen è stato possibile solo perché il codice era segreto in quanto “proprietà intellettuale”.

Gli algoritmi sono potere, e come sempre la battaglia è perché il potere sia trasparente ed equo.

Occorre guardarsi tanto dai faciloni oscurantisti alla “gli algoritmi ci tolgono la libertà” quanto da quella degli smartopardi alla “cambiamo tutto per non cambiare niente”.

 

Walter Vannini

L’algoritmico è politico.
Sono un informatico, perché la mia passione è usare il digitale per superare i problemi.
E sono un counselor, perché le soluzioni sono prima umane e organizzative, e solo dopo tecnologiche.

Lavoro con i dati per garantire a PMI e grandi aziende decisioni e processi più efficaci, rapidi e adattabili. Un’analisi intelligente, automatizzata e in tempo reale dei dati di vendita, di mercato e dei social per poter competere alla rapidità richiesta dal mercato.

Per gli amanti delle keyword dirò data science, data governance, big data, botification, machine learning, Artificial Intelligence, User Experience, LEGO™ SERIOUS PLAY™.

Twitter LinkedIn 

Clicca per commentare

Commenti e reazioni su:

Loading Facebook Comments ...

Lascia una replica

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

No Trackbacks.

TechEconomy è il portale di informazione dedicato a manager, imprenditori e professionisti che vogliono approfondire e comprendere l’impatto delle tecnologie nello sviluppo del business nelle PMI come nell’industria, nella finanza, nei servizi.
Si rivolge insomma a tutti coloro che vogliono capire come le nuove realtà dell'Information Technology - Web 2.0, e-Business, net economy - stiano cambiando l’economia, e con essa la società.
Inizio
Shares
Share This