La rivolta del team AI di Google porta il colosso di Mountain View a cambiare le procedure con cui i revisori interni passano al vaglio e eventualmente modificano il lavoro degli scienziati. Lo rivela Reuters. Gli esperti di intelligenza artificiale che lavorano per valutare le tecnologie di Big e il loro impatto etico hanno alzato la voce contro la mancanza di integrità nella ricerca di Big G legata all’AI.
In un incontro con lo staff i dirigenti di Google Research hanno garantito di essere impegnati a ripristinare la fiducia persa dopo che l’azienda ha mandato vie due scienziate del team AI e respinto il loro lavoro. Google sta mettendo a punto un diverso questionario per la valutazione dei progetti di AI; i cambiamenti verranno introdotti per l’estate e assicureranno molta più indipendenza agli scienziati. La maggior parte dei loro studi non dovrà infatti passare attraverso ulteriori scrutini dopo il questionario, ha affermato la Chief operating officer Maggie Johnson.
Paper sull’AI respinti dai revisori interni
Reuters aveva già riportato a dicembre che Google aveva introdotto una procedura di revisione dei “temi sensibili” in decine di studi condotti dai suoi scienziati dell’AI e che includevano argomenti come la Cina o le possibili discriminazioni nei servizi di Google. I revisori interni avevano in particolare chiesto modifiche in tre paper sull’AI “per evitare di mettere la tecnologia di Google in cattiva luce”.
Ora Jeff Dean, senior vice president di Google del team di revisori, ha ammesso che la revisione dei temi sensibili “era ed è origine di confusione” e che le regole verranno rese più semplici.
Termini “edulcorati” nei paper sull’AI
Un’email interna visionata da Reuters ha evidenziato quali fossero le preoccupazioni degli scienziati di Google. Il messaggio mostra chiaramente come il dipartimento legale di Google aveva modificato uno dei tre paper, “Extracting Training Data from Large Language Models.“
L’email, datata 8 febbraio e scritta da uno degli autori dello studio, Nicholas Carlini, è stata indirizzata a centinaia di colleghi nel tentativo di sottoporre alla loro attenzione quelle che Carlini ha definito correzioni “altamente insidiose” effettuate dai legali di Google.
Anche su questo fronte Google ha cercato di rispondere al pressing conferendo un nuovo incarico a Marian Croak, pioniere della tecnologia audio per Internet e uno dei pochi vice president donna di colore di Google. La Croak ha ora il compito di unire e dirigere 10 team che studiano temi come la discriminazione razziale negli algoritmi e la tecnologia per persone diversamente abili.
La Croak ha detto che ci vorrà tempo per affrontare le varie preoccupazioni dei ricercatori sull’etica nell’AI e ripristinare la reputazione di Google in questo ambito. Ma ha preso le redini in mano affermando: “Ritenetemi completamente responsabile del tentativo di sanare la situazione”.
