Home Saper vivere Altri Articoli Dati (Big Data) per costruire un mondo felice?
Dati (Big Data) per costruire un mondo felice? PDF Stampa
Saper vivere - Altri articoli

Negli ultimi anni abbiamo avuto una transizione senza precedenti nella nostra storia: dati di diversa natura sul comportamento umano (che facciamo, dove andiamo, quanto guadagniamo, cosa consumiamo, con che cosa comunichiamo….) sono passati da essere una risorsa inesistente o molto scarsa per essere disponibili in maniera massiccia e in tempo reale. Questa disponibilità di grandi quantità di dati (big data) su ciascuno di noi, sta cambiando profondamente il mondo e ha dato luogo a una comparsa di una nuova disciplina chiamata Scienza Sociale Computerizzata. La finanza, la economia, la salute, la medicina, la fisica, la biologia, la politica, il marketing, il giornalismo e l’urbanistica, tra gli altri, hanno sperimentato l’impatto di questo fenomeno. L'analisi dei dati aggregati su grande scala del comportamento umano apre straordinarie opportunità di comprendere e modellare schemi di comportamento per assistere nel processo decisionale, in modo che non ci siano più esseri umani che decidono, ma che le decisioni vengano determinate da algoritmi costruiti per mezzo di questi dati. Per quale motivo desideriamo che le decisioni vengano prese da un algoritmo? L'idea che un algoritmo decida al posto delle persone può sembrare inquietante. Però non dobbiamo dimenticare che la storia è corredata di numerosi esempi di pregiudizi estremi nel processo di prendere decisioni per l'umanità-in particolare per strutture di potere nella distribuzione di risorse, la giustizia, l'uguaglianza e i beni pubblici-. Ciò ha dato luogo a risultati inefficaci, corruzione, ingiustizie con gravi conflitti di interessi e con conseguenze in molti casi devastanti per milioni di persone (alcuni esempi recenti: la crisi economica, le ipoteche con clausole inaccettabili, i casi di corruzione...). Dinanzi a ciò lo sviluppo di algoritmi per prendere decisioni riflette la ricerca e l'aspirazione di arrivare a decidere basandosi su evidenze in maniera da eliminare – o almeno minimizzare – la discriminazione, la corruzione, l'ingiustizia o l'inefficienza dalle quali disgraziatamente non rifuggono le decisioni umane. E nel contesto del bene sociale William Easterly propone il concetto della 'tirannia degli esperti' , secondo il quale economisti, centri di studi, agenzie di aiuti umanitari, analisti ed esperti hanno dominato progetti globali di sviluppo economico e di riduzione della povertà. Come conseguenza di questa 'tirannia' , si è osservato che gli esperti hanno favorito spesso soluzioni tecnocratiche che molte volte non hanno rispettato i diritti individuali dei cittadini e non hanno raggiunto l'impatto positivo sperato. Visto il potenziale dei dati , nell'ultimo anno è nato un fertile campo di investigazione dedicato allo sviluppo per cercare di prendere decisioni nell'ambito dei miglioramenti sociali per l'ottimizzazione delle risorse. Questi algoritmi sono stati disegnati per analizzare quantità ingenti di informazioni di fonti distinte e, in maniera automatica, selezionare i dati rilevanti per usarli in maniera concreta. Ciò si conosce come big data per il bene sociale. E in questo campo si sono gestiti progetti che hanno analizzato il valore dei dati per comprendere lo sviluppo economico di una regione, prevedere e precedere la criminalità, limitare la propagazione di infezioni invalidanti come ebola, stimare le emissioni di CO2 o quantificare l'impatto di disastri naturali. Tanti investigatori come governi, comunità, imprese o gruppi di cittadini sperimentano attivamente, innovando e adattando strumenti per prendere decisioni basate sull'analisi dei dati. Il potenziale è immenso e ciò è giustamente una delle motivazioni del mio lavoro di investigazione in questa area.

Nella comunità scientifica sono state identificate una serie di sfide sociali, etico e legali relazionate nel prendere decisioni con algoritmi, che influenzano campi come la privacy, la sicurezza, la trasparenza, la ambiguità in relazione alle responsabilità, le sfide o la discriminazione.
Difatti, nel 2014, la Casa Bianca pubblicò un rapporto Big Data: catturando opportunità, preservando valori che sottolineava la discriminazione potenziale che potevano contenere i dati e individuava alcuni rischi in relazione all'uso dei dati personali per prendere decisioni sul credito, la salute e l'occupazione delle persone. Corriamo il rischio di sostituire la 'tirannia degli esperti' con una 'tirannia dei dati' se non saremo coscienti e mediteremo per minimizzare o eliminare le limitazioni inerenti le decisioni basate sui dati.

Per poter utilizzare adeguatamente il potenziale delle decisioni basate sui dati e procedere verso un mondo più giusto, onesto e egalitario abbiamo quattro sfide importanti a cui dedicarci nel risolvere i problemi dell'impiego degli algoritmi per prendere decisioni.
La prima è la garanzia della privacy delle persone. E' necessario meditare sul fatto che gli algoritmi hanno accesso a dati provenienti da un numero crescente di fonti incluso quando detti dati sono anonimi; il processamento e la combinazione possano causare problemi su una persona in particolare, anche se questa informazione mai sarà svelata alla medesima, come illustra il lavoro di Yves Alexandre de Montjoye. Per fortuna si può pensare di prendere decisioni per minimizzare o eliminare questo impatto sulla privacy, come aggregazioni di dati anonimi.
Altra sfida è la asimmetria nell'accesso alle informazioni. Potremmo arrivare a una situazione nella quale una minoranza ha accesso ai dati e dispone delle conoscenze e degli strumenti necessari per analizzarli, mentre la maggioranza non è in grado di farlo. Questa situazione aggraverebbe la asimmetria già esistente nella distribuzione del potere nei Governi e nelle imprese, da una parte, e le persone dall'altra. Iniziative per promuovere 'dati aperti' (open data) e programmi di istruzione per allargare la alfabetizzazione digitale e la analisi dei dati sono due esempi che si potrebbero promuovere per mitigare questo aspetto.
Il terzo punto controverso è la opacità degli algoritmi. Jenna Burrell parla di un contesto di tre tipi che caratterizza le opacità: 1) opacità intenzionale, dove l'obbiettivo è la protezione della proprietà intellettuale; 2) opacità per ignoranza, perchè alla maggioranza dei cittadini mancano le conoscenze tecniche per comprendere gli algoritmi dell'intelligenza artificiale relativa; 3) Opacità intrinseca, risultato della natura delle operazioni matematiche utilizzate, che in molte occasioni sono molto difficili o impossibili da interpretare. Questo tipo di opacità può essere minimizzato con l'introduzione di una legislazione che obblighi all'uso di sistemi aperti con programmi educativi di informatica: Con iniziative per spiegare ai cittadini senza conoscenze tecniche, come funzionano gli algoritmi per prendere decisioni e con l'uso di modelli artificiali che siano facilmente interpretabili, anche se tale condizione implica la necessità di impiegare modelli più semplici e ottenere risultati minori se vengono comparati con quelli tipo scatola nera.
L'ultima sfida è la esclusione sociale e la discriminazione potenziale che può risultare dallo scegliere algoritmi per la selezione dei dati. I motivi possono essere multipli: in primo luogo, i dati che si utilizzano possono contenere pregiudizi che rimangono spalmati nei detti algoritmi; inoltre se non si utilizzano i modelli correttamente, i risultati possono essere discriminatori – come hanno dimostrato in un recente lavoro de Toon Calders e Indr Zliobait -. Un altro rischio è costituito dal fatto che a certi individui si negano opportunità dovute non per proprie azioni ma per quelle similari di altre persone. Ad esempio, qualche impresa emettitrice di carte di credito ha ridotto i limiti di credito di clienti senza basarsi su relativi episodi finanziari, ma a partire dall'analisi di altri clienti.
Per questo è di vitale importanza conoscere tanto le caratteristiche che i problemi sia dei dati che dei modelli utilizzati e arrivare a capo delle analisi necessarie per identificare e quantificare le possibili limitazioni. Per fortuna queste sfide non sono insolubili. Il potenziale dei dati per aiutare a migliorare il mondo è immenso in numerose aree, includendo la salute pubblica, le risposte a precedenti disastri naturali e situazioni di crisi, la sicurezza delle città, il riscaldamento globale, l'istruzione, la pianificazione urbana, lo sviluppo economico o la elaborazione di statistiche. Infatti, l'uso dei big data è un elemento centrale dei 17 obiettivi per lo Sviluppo Sostenibile (SDG) delle Nazioni Unite: i dati – e le conclusioni cui possiamo arrivare grazie alle analisi – sono e saranno un elemento chiave per aiutarci ad abbordare le grandi sfide che incontriamo come umani.
Usati bene, i dati offrono la possibilità di democratizzare certe decisioni, superando la 'tirannia degli esperti' menzionata precedentemente e facendo in modo che le decisioni rispondano a variabili meno soggette all'arbitrarietà di pochi. Inoltre dobbiamo trovare un equilibrio e assumerci la responsabilità di non cadere nella 'tirannia dei dati'. Solo dopo un compromesso collettivo che comprende tanto ricercatori, politici e altre parti sociali, i cittadini – o chiunque stia leggendo questo articolo – potremo esplorare e sfruttare le possibilità potenziali che i dati offrono per conseguire il bene comune, nostro e delle generazioni future. Abbiamo una opportunità che non dobbiamo – né possiamo – lasciar passare.

 

Articolo di Nuria OLIVER tratto dal quotidiano El Pais e tradotto da Antonio ALBINO