La previsione del rischio di contrarre malattie che consente efficaci terapie preventive, ma può al contempo discriminare la persona quando cerca lavoro; l’algoritmo di gestione di un servizio di taxi che in occasione di un’emergenza raddoppia il prezzo delle corse perché è stato creato per aumentarlo quando la domanda cresce; la fotocamera che si blocca davanti a un volto asiatico scambiandolo per una persona che strizza gli occhi perché è stata programmata usando immagini di volti caucasici. Questi sono solo alcuni dei casi in cui una tecnologia senza controllo può prendere il sopravvento sulla vita umana quotidiana, dalla salute ai trasporti, al lavoro, all’uso della rete.
Negli ultimi anni le conseguenze etiche e sociali dell’innovazione scientifica e tecnologica più avanzata sono al centro dell’attenzione del Politecnico di Milano. Scienziati, ingegneri, tecnologi e progettisti si trovano davanti a una sfida urgente e del tutto nuova: quella di affrontare l’innovazione in maniera consapevole, sentendosi responsabili non solo del buon funzionamento delle tecnologie, ma anche delle loro conseguenze.
In modo pioneristico nel panorama accademico italiano, l’ateneo ha così deciso di attivare il primo insegnamento universitario di Ethics for Technology rivolto a studenti dei diversi corsi di Ingegneria, e finalizzato alla formazione di futuri ingegneri consapevoli degli impatti etici della progettazione ingegneristica e capaci di orientarla fin dall’inizio verso un’innovazione tecnologica responsabile. Il nuovo insegnamento, appena lanciato in questo secondo semestre, è stato inserito nel programma didattico dei Corsi di Laurea Magistrale in Ingegneria Biomedica, Ingegneria Chimica, Ingegneria Elettrica, Ingegneria Energetica, Ingegneria Nucleare e Ingegneria Fisica.
“Ritengo che sia un dovere per un’università tecnica, tra le prime in Europa, affrontare il cambiamento introdotto dalle nuove tecnologie partendo dall’etica, da un punto di osservazione privilegiato che integra gli aspetti ingegneristici e progettuali con il pensiero filosofico e l’analisi sociologica – spiega il Rettore, Ferruccio Resta– La pervasività della tecnologia, le risposte che promette di dare alle grandi sfide sociali (dalla salute alla sicurezza, dalla mobilità alla sostenibilità), le scelte che sempre di più vengono demandate agli algoritmi evidenziano come sia necessario comprenderne a pieno potenzialità e rischi e partire dalla formazione per una nuova etica della responsabilità”.
Oggi nel corso dell’evento Etica per la Tecnologia, che si è svolto in Aula Magna del Politecnico di Milano, l’argomento è stato affrontato da diversi punti di vista insieme a tre grandi esperti del tema: Giuseppe Testa, biologo molecolare dell’Università Statale di Milano, Mariarosa Taddeo, filosofa dell’Università di Oxford e Helga Nowotny, sociologa dell’Università di Vienna tra i più autorevoli protagonisti del sistema europeo della ricerca.
Ethics for Technology è stato progettato da Meta, l’Unità di studi umanistici e sociali su scienza e tecnologia del Politecnico di Milano coordinata dal sociologo Paolo Volonté. Meta è un tavolo di lavoro interdisciplinare in cui docenti e ricercatori di tutti i Dipartimenti dell’Ateneo lavorano per promuovere la nuova attenzione per le implicazioni etiche e sociali della tecnologia: i ricercatori che sviluppano tecnologie di frontiera dialogano con filosofi e scienziati sociali per riflettere criticamente sulle sfide poste con sempre maggiore urgenza alla vita presente e futura. Le iniziative di Meta riguardano non solo le attività didattiche, ma anche quelle di ricerca (in collaborazione con i più prestigiosi network di politecnici europei) e di disseminazione verso la società civile.
Ecco i temi
Algoritmi e apprendimento automatico
La nostra società fa sempre più affidamento su algoritmi in tutti gli aspetti della vita quotidiana. I non esperti d’informatica pensano: un algoritmo è una procedura automatica, quindi non può essere di parte! Ma non è così, perché gli algoritmi sono scritti da esseri umani. Il rischio è che sessismo, razzismo e altre forme di discriminazione vengano incorporate negli algoritmi di apprendimento automatico.
Qualche anno fa, per esempio, si è scoperto che il software di una fotocamera interpretava le immagini degli asiatici come se fossero persone che stavano strizzando gli occhi e che il software di un certo tipo di webcam aveva difficoltà a riconoscere le persone con la pelle di colore più scuro. Gli algoritmi avevano imparato da un insieme di immagini (scelte dagli ingegneri), e il sistema ha costruito un modello del mondo basato su quelle immagini. Se un sistema è addestrato su foto di persone che sono prevalentemente di pelle bianca, non sarà poi in grado di riconoscere correttamente volti di altre etnie.
La tecnologia informatica ha quindi un potere sulla nostra vita, ed è compito di chi la sviluppa comprendere i problemi e offrire soluzioni tecnologiche per risolverli. Come ricercatrice nell’area della gestione dei dati sono sempre stata affascinata da questi problemi: molti dei metodi e dei sistemi proposti dal mio gruppo di ricerca mirano a supportare gli utenti nell’accedere con facilità ai dati e a dar loro un senso: l’attenzione agli aspetti etici è la frontiera più recente di questo percorso.
Big Data e medicina di precisione
Le nuove tecnologie per l’analisi dei Big Data finalizzata alla medicina di precisione sono un obiettivo di ricerca del “Center for Analysis Decisions and Society”, un centro di ricerca di Human Technopole nato in collaborazione con il Politecnico di Milano.
La medicina di precisione ha come scopo la personalizzazione delle cure sulla base delle loro caratteristiche genetiche, degli stili di vita, delle caratteristiche ambientali. Ci si aspetta di fare grandi passi avanti in questo campo, con effetti positivi sui pazienti. Ma le potenziali ricadute negative non mancano ed esse riguardano per lo più la sfera etica e sociale.
Si ritiene di poter presto prevedere le malattie future delle persone. Ma la previsione di una patologia futura può essere usata non solo per curare preventivamente un individuo, ma anche per discriminarlo: ad esempio quando si candida per una posizione di lavoro, nell’accesso a una polizza assicurativa o, in generale, come cittadino che chiede un servizio allo Stato. Perciò queste tecnologie sollevano un importante problema di privacy. Come va stabilito il diritto alla privacy dell’individuo, quando i dati che lo riguardano servono, sì, per sviluppare nuove tecnologie diagnostiche a beneficio di tutti, ma possono anche essere utilizzati per ostacolare i suoi progetti di vita?
Povertà energetica
Quasi 1 miliardo di persone non ha ancora accesso all’energia elettrica. Ogni anno vengono investite ingenti risorse dal settore pubblico e privato con la convinzione che nuove soluzioni tecnologiche per la fornitura di energia elettrica possano innescare automaticamente processi di sviluppo. Ma l’esperienza conferma che non sempre è così.
Esemplificativo è il caso di un progetto di elettrificazione rurale in Tanzania che abbiamo seguito. Sono stati installati gratuitamente dei sistemi fotovoltaici a isola. La tecnologia era efficiente, moderna e rinnovabile, ma ha subito un precoce decadimento in termini di efficienza e affidabilità e vari guasti a causa delle avverse condizioni ambientali e della mancata manutenzione, anche per l’assenza di personale preposto e formato. Il progetto non ha portato nel territorio lo sviluppo atteso ma, al contrario, ha innescato varie problematiche sociali e ambientali, come l’inquinamento dovuto alle batterie esauste e una ridotta fiducia per l’efficacia e affidabilità degli interventi di elettrificazione.
In questo e in tanti altri casi lo sviluppo tecnologico non è riuscito a portare benessere alle persone perché il progettista non si è posto le domande giuste e ha privilegiato l’efficacia tecnica rispetto alle esigenze e alle conoscenze dei beneficiari.
Materiali e sostenibilità
Lo sviluppo sostenibile risponde alle necessità del presente senza compromettere la capacità delle generazioni future di soddisfare le proprie. Non dovrebbe dunque esistere ricerca e sviluppo che non considerino la sostenibilità come obiettivo irrinunciabile. I materiali sono una grande opportunità per declinare questi concetti nella vita delle persone. Senza una strategia ispirata alla sostenibilità, anche i materiali con il più alto tasso di innovazione possono portare con sé conseguenze negative per le persone e l’ambiente. Si pensi alle microplastiche. Oggi però ci sono le condizioni culturali e tecnologiche per far diventare lo sviluppo di nuovi materiali anche un’opportunità per la sostenibilità dell’ambiente.
Al Politecnico di Milano la scienza e tecnologia chimica hanno l’ambizione di promuovere una nuova frontiera di materiali, privilegiando le fonti di origine naturale e rendendo disponibili processi e prodotti innovativi e sostenibili. Caratteristica chiave è la pervasività: quanto più l’attenzione per la sostenibilità è alla radice del percorso che porta a nuovi materiali, tanto più diffuse sono le sue applicazioni. La sinergia fra sostenibilità e nanomateriali, per esempio, consente la generazione di materiali leggeri, che per definizione hanno minore impatto sull’ambiente. Stiamo andando verso la progettazione di materiali ispirati all’economia circolare.
Pricing dinamico
Il pricing dinamico include tutte le strategie di vendita che variano il prezzo di prodotti e servizi nel tempo. E’ uno strumento tradizionale: le camere degli alberghi hanno sempre avuto costi che dipendono dalla stagione. L’interesse per il pricing dinamico è però cresciuto con gli strumenti di commercio elettronico (si pensi alle compagnie aree low-cost), perché il prezzo può essere modificato molto più facilmente, anche più volte al giorno.
Il pricing dinamico serviva originariamente a sfruttare il fatto che in certi momenti alcuni utenti sono disposti a spendere maggiormente per avere un prodotto o servizio. Ultimamente viene però usato anche per apprendere dal comportamento degli utenti. Sfruttando una frequenza elevata di acquisti, un algoritmo può modificare il prezzo dopo la visita di ogni utente. L’obiettivo è capire quanti utenti acquisterebbero un bene per ogni possibile prezzo e profilare gli utenti per migliorare le strategie di differenziazione dei prezzi. Ma se non viene governato, l’algoritmo può produrre effetti distorti, come quando a seguito dell’attentato terroristico al London Bridge di Londra nel 2017 le tariffe delle auto disponibili in zona sono improvvisamente raddoppiate in maniera automatica, e sono rimaste alte finché il gestore del servizio non è dovuta intervenire sospendendo la funzionalità dell’algoritmo.
Veicoli autonomi
Usare un veicolo autonomo significa anche non aver più bisogno di trovare parcheggio in centro: scendo dove serve e mi faccio venire a riprendere quando ne ho bisogno. Nel frattempo, il veicolo resta circolante per minimizzare i tempi di recupero. L’altro lato della medaglia è che questa incredibile disponibilità di mezzi di trasporto viene pagata in termini di energia bruciata per tenere i veicoli in continuo movimento. Anche immaginando che i veicoli saranno condivisi, diversi scenari ci dicono che lo sfruttamento delle risorse energetiche sarà maggiore di quello attuale.
I veicoli autonomi aumenteranno la mobilità di tutti (chiunque può muoversi con un veicolo autonomo, che sappia guidare o meno). Ma siamo disposti a sfruttare ancora di più il nostro pianeta per garantire questa nuova mobilità capillare e senza barriere? Se davvero vogliamo migliorare il mondo che ci circonda, la mobilità autonoma può essere una soluzione, ma richiederà che si facciano cambiamenti significativi e tutt’altro che scontati in molti altri ambiti (ad esempio in ambito energetico), altrimenti finiremo per peggiorare il mondo solo per avere maggiori comodità.
