Amazon mette in standby Rekognition. La tecnologia dell’azienda per il riconoscimento facciale non potrà essere utilizzata dalla polizia Usa per un anno. L’obiettivo, dichiara l’azienda di e-commerce, è permettere al Congresso di “mettere a punto un regolamento appropriato” per l’uso di una tecnologia accusata di effettuare identificazioni basate su pregiudizi sulle persone di pelle scura. “Speriamo – ha fatto sapere la società in un post sul suo blog – che la moratoria possa dare al governo il tempo sufficiente per mettere in campo norme adeguate: siamo pronti a fornire aiuto se richiesto”.
La decisione di Amazon arriva due giorni dopo l’annuncio simile di Ibm che ha invocato “un dialogo nazionale” sull’utilizzo di queste piattaforme. La marcia indietro delle aziende tech si inserisce nel pieno delle proteste per l’assassinio di George Floyd e per il pericolo che i software per il riconoscimento facciale aumentino il rischio di violazioni dei diritti umani su base razziale.
In particolare le polemiche mettono al centro le modalità con cui la polizia utilizza la tecnologia per sorveglianza di massa e profilazione razziale.
Le proteste su Rekognition partite dal Mit
I gruppi per i diritti civili e i dipendenti di Amazon hanno spinto l’azienda a smettere di vendere la sua tecnologia, chiamata Rekognition, ad agenzie governative, affermando che poteva essere utilizzata per invadere la privacy delle persone e colpire le minoranze.
“La decisione di Amazon è un importante passo simbolico, ma questo non cambia ancora il panorama del riconoscimento facciale negli Stati Uniti” dice Clare Garvie, ricercatrice presso il Center on Privacy and Technology della Georgetown University. La sua ricerca sui registri pubblici ha rilevato che due agenzie statunitensi utilizzano o testano Rekognition: l’ufficio dello sceriffo della Contea di Washington in Oregon e il dipartimento di polizia di Orlando.
Secondo gli studi condotti da Joy Buolamwini, una ricercatrice del Mit, il software utilizza criteri discriminatori sia sul fronte etnico che di genere. Gli studi effettuati dal Mit hanno spinto Microsoft e Ibm ad apportare miglioramenti ai propri sistemi, mentre Amazon ha attaccato pubblicamente i metodi della ricerca.
Un gruppo di studiosi di intelligenza artificiale lo scorso anno ha invitato Amazon a bloccare le vendite del software alla polizia. Joy Buolamwini, specializzata nello studio dei bias presenti nelle architetture degli algoritmi, ha definito l’annuncio di oggi di Amazon “ben accetto ma inaspettato. Ora anche Microsoft deve prendere una posizione”.
Molte agenzie statunitensi si affidano alla tecnologia di riconoscimento facciale realizzata da aziende meno conosciute, come Nec di Tokyo o le società europee Idemia e Cognitec.
