Un team composto da ricercatori del Virginia Tech, Ericsson e del AI Cross-Center Unit del Technology Innovation Institute (Tii) degli Emirati Arabi Uniti, con un progetto ambizioso: trovare un equilibrio tra l’accuratezza degli algoritmi ed il consumo sostenibile di energia per l’Intelligenza Artificiale (AI) distribuita. Lo ha annunciato lo stesso Tii con un comunicato stampa. Il team congiunto si concentrerà nello specifico su come la quantizzazione – una tecnica che crea una rappresentazione più efficiente dello stato dell’AI – sia in grado di influenzare l’equilibrio tra accuratezza, tempi di convergenza e consumo di energia all’interno di un sistema di AI distribuita. Il framework previsto avrebbe le potenzialità per essere applicato anche ad altri tipi di avanzamenti.
Un progetto che ha già vinto un premio all’Ieee International Conference on Communications (ICC) del 2022, nella categoria Green Communication Systems and Networks Symposium, in lizza con altri migliaia di concorrenti. “Lungo il cammino, la ricerca promette di apportare miglioramenti allo sviluppo di applicazioni di AI che siano più efficienti dal punto di vista energetico, nel campo dell’automazione domestica, della robotica autonoma e dei droni”, ha commentato il dr. Walid Saad, professore al dipartimento di ingegneria elettronica e informatica del Virginia Tech, parte del progetto.
Come si legge nel comunicato, l’accento che il progetto pone sui trade off energetici nell’implementazione di tecniche di machine learning, offre una visuale su un nuovo promettente approccio di AI, che permetterebbe a più devices di collaborare e migliorare gli algoritmi altrui, preservando però la privacy. Una tecnica introdotta la prima volta da Google nel 2017, e che viene provata per permettere ad automobili, droni e smartphones di produrre ed inviare una rappresentazione del modello di AI, invece che dei dati grezzi. Tuttavia si tratta di applicazioni che possono generare ingenti spese in termini di energia, visto che gravano su un network esteso di devices. “Volevamo capire come generare Intelligenza artificiale distribuita verde, senza sacrificare l’accuratezza (degli algoritmi, ndr)”, ha aggiunto il professor Saad.
I diversi approcci
“Vi sono diversi approcci per delineare dei metodi più efficienti nell’implementazione di algoritmi di AI, tra cui quantizzazione, sparsificazione e distillazione della conoscenza”, ha spiegato Minsu Kim, ricercatore del Virginia Tech. Con la quantizzazione, gli studiosi possono utilizzate un numero minore di bits per rappresentare lo stato dei modelli di AI; con la sparsificazione, si usano invece metodi più efficienti per rappresentare i cambiamenti nei networks neurali; con la distillazione della conoscenza si impiegano infine un numero superiore di computer per comprimere le migliori rappresentazioni degli altri nodi. “Questi tre approcci rappresentano le tecniche fondamentali che cerchiamo di utilizzare per ridurre il consumo di energia al momento”, ha aggiunto Kim.
Il team di ricerca ha inoltre scoperto che per le applicazioni AI, un maggiore utilizzo di bits implica un maggiore consumo di energia, motivo per cui è stato sviluppato un nuovo modello teorico che potrebbe determinare un numero ottimale di bits per la rappresentazione, minimizzando il consumo di energia e ottenendo un certo livello di accuratezza.
