L’intelligenza artificiale? E’ sessista. L’allarme arriva direttamente dall’Onu e rimpalla alle big del tech che hanno ricevuto una lettera al calor bianco direttamente dall’Unesco: nel mirino la mancanza di donne che lavorano nel settore dell’AI, mancanza che sarebbe la causa principale della voce “sottomessa” che “anima” Siri, Alexa e Google Assistant. Apple, Amazon e Google devono cambiare rotta, dunque.
In collaborazione con il governo tedesco e con la Equals Skills Coalition, l’Unesco ha pubblicato uno studio intitolato “Se potessi, arrossirei”, un riferimento alla risposta standard di Siri quando riceve un insulto e “il frutto di un lampante squilibrio di genere nel settore tecnologico”.
Rilevando che le donne rappresentano appena il 12% dei ricercatori nel campo dell’intelligenza artificiale e solo il 6% degli sviluppatori di software, lo studio raccomanda in primis di evitare che l’assistente vocale sia donna di default. Si chiede inoltre una programmazione che scoraggi gli insulti basati sul genere e, più in generale, di stimolare lo sviluppo di capacità tecnologiche avanzate tra le donne in modo che possano avere voce in capitolo come e quanto gli uomini. “Macchine passivamente obbedienti con voci di donne entrano nelle nostre case, nelle nostre auto e nei nostri uffici – spiega Saniye Gülser Corat, direttore della parità di genere all’Unesco – La loro sottomissione influenza come la gente reagisce alle voci femminili e come le donne rispondono a richieste e si esprimono”.
Intanto il mondo della ricerca che studia i bias, ovvero le inclinazioni che “assumono” le macchine perché progettate, in larga parte da uomini bianchi, sta provando a sviluppare sistemi di AI gender neutral.
Il network anglo-americano, Virtue Worldwide, in collaborazione con la ricercatrice danese Anna Jorgensen ha di recente lanciato la prima voce artificiale senza identità di genere. Battezzata “Q”, la è stata sviluppata partendo dalla registrazione delle voci di cinque persone che rifiutano in partenza una precisa identità sessuale, manipolando poi il risultato elettronicamente per comprimerne la tonalità in una banda di frequenze che oscilla attorno ai “neutrali” 153Hz.
I creatori di “Q” hanno lanciato un appello perché si adotti la loro voce non solo sugli smartphone, ma anche “alle stazioni della metropolitana, agli stadi, allo spettacolo e altrove”.
Joy Buolamwini è invece una ricercatrice del Mit che ha studiato i sistemi di riconoscimento facciale delle big tech, rilevandone l’incapacità di identificare con precisione i volti delle donne e, in misura molto maggiore, le persone di colore. Ovviamente questi sistemi tendono ad essere ancora più in difficoltà nel riconoscere i volti delle donne di colore.
La ricercatrice ha fondato la Algorithmic Justice League, che lavora per aumentare la consapevolezza del pregiudizio nei software di riconoscimento facciale, ma anche di costringere le aziende di tutto il mondo a rendere il loro software più preciso e ad usare le sue capacità in modo etico.
