Non solo luci, l’evoluzione dell’intelligenza artificiale generativa portà con sé anche qualche ombra. A partire dalle perdite finanziare fino alla diffusione di deep fake fino al tema, cruciale per uno sviluppo sostenibile della tecnologia, delle competenze e della conoscenza sia sul fronte business sia su quello consumer. A delinare i rischi connessi alla GenAI due studi, uno dei Capgemini e uno di Deloitte.
Il report di Capgemini Research Institute
Il nuovo report “New defenses, new threats: What AI and Gen AI bring to cybersecurity” evidenzia che sebbene stiano emergendo nuovi rischi in materia di cybersecurity, derivanti dalla proliferazione dell’AI e dell’AI generativa (Gen AI), queste tecnologie rappresentano un cambiamento trasformativo nel rafforzamento delle strategie di cyber-difesa a lungo termine che consentono di anticipare, rilevare e rispondere alle minacce. Due terzi delle organizzazioni considerano ormai prioritaria l’AI nelle loro operazioni di sicurezza.
Però se da un lato l’AI è considerata dalle organizzazioni una tecnologia strategica per il rafforzamento delle proprie strategie di sicurezza, dall’altro la crescente adozione della Gen AI comporta una maggiore vulnerabilità.
“L’uso dell’AI e della Gen AI si è finora rivelato un’arma a doppio taglio. Se da un lato introduce rischi senza precedenti, dall’altro le organizzazioni si stanno affidando sempre più all’AI per un rilevamento più rapido e accurato degli incidenti informatici. spiega Monia Ferrari, Ad di Capgemini in Italia – L’AI e l’AI generativa forniscono ai team di sicurezza nuovi e potenti strumenti per limitare questi incidenti e trasformare le loro strategie di difesa. Per garantire che rappresentino un vantaggio significativo di fronte a minacce sempre più sofisticate, le organizzazioni devono mantenere e dare priorità al monitoraggio continuo dell’evoluzione delle minacce informatiche, costruire in modo adeguato l’infrastruttura di gestione dei dati, i framework per l’adozione dell’AI e le relative linee guida etiche e introdurre validi programmi di formazione e sensibilizzazione dei dipendenti”.
Le aree di rischio per le aziende
Tre principali aree di rischio per le organizzazioni: attacchi più sofisticati con un maggior numero di avversari, l’espansione della superficie di attacco informatico e l’aumento delle vulnerabilità nell’intero ciclo di vita delle soluzioni personalizzate di Gen AI. Questi rischi sono inoltre aggravati dall’uso improprio dell’AI e dell’AI generativa da parte dei dipendenti, con un conseguente aumento significativo del rischio di violazioni dei dati.
In questo scenario quasi tutte le organizzazioni intervistate (97%) affermano di aver riscontrato violazioni o problemi di sicurezza legati all’uso della Gen AI nell’ultimo anno. Questa tecnologia comporta anche rischi aggiuntivi, tra cui allucinazioni, generazione di contenuti distorti, dannosi o inappropriati e attacchi di tipo prompt injection. Due organizzazioni su tre (67%) sono preoccupate per l’inquinamento dei dati e per la possibile fuga di dati sensibili attraverso i dataset utilizzati per l’addestramento dei modelli di intelligenza artificiale generativa.
Inoltre, la capacità della Gen AI di generare contenuti sintetici altamente realistici sta comportando ulteriori rischi: oltre due aziende intervistate su cinque (43%) hanno dichiarato di aver subito perdite finanziarie derivanti dall’uso di deepfake.
Circa 6 organizzazioni su 10 ritengono inoltre di dover aumentare il budget destinato alla cybersecurity per rafforzare adeguatamente le proprie difese.
L’AI arma contro i cyberattacchi
L’indagine, condotta su 1.000 organizzazioni3 interessate all’utilizzo dell’AI nell’ambito della cybersecurity o che già la stanno utilizzando, rileva che la maggior parte di esse si affida a questa tecnologia per rafforzare la sicurezza dei dati, delle applicazioni e del cloud, grazie alla sua capacità di analizzare rapidamente grandi quantità di dati, identificare modelli di attacco e prevedere potenziali violazioni.
Oltre il 60% delle aziende intervistate ha registrato una riduzione di almeno il 5% del proprio time-to-detect, mentre quasi il 40% ha dichiarato che il tempo di ripristino è diminuito almeno del 5% a seguito dell’implementazione dell’AI nei propri centri operativi di sicurezza (Soc).
Tra le organizzazioni intervistate, tre su cinque (61%) ritengono che l’AI sia essenziale per una risposta efficace alle minacce, in quanto consente loro di implementare strategie di sicurezza proattive contro attori sempre più sofisticati. Inoltre, la stessa percentuale ritiene che l’intelligenza artificiale generativa sia in grado di rafforzare le strategie di difesa proattiva a lungo termine, grazie a un rilevamento più rapido delle minacce. Oltre la metà ritiene inoltre che questa tecnologia consentirà agli analisti di cybersecurity di concentrarsi maggiormente sulle strategie di contrasto a minacce più complesse.
La ricerca Deloitte
Preoccupazione sugli effetti della GenAI emergono anche tra i consumatori: secondo Deloitte quasi i due terzi della popolazione nutre ancora alcune preoccupazioni legate alla diffusione di contenuti manipolati e all’utilizzo illecito dei dati personali.
Il grado di apertura verso questa tecnologia si muove però di pari passo con la sua conoscenza, si evidenzia nello studio “Trust in the era of Generative AI”. Chi ha già utilizzato qualche tool di GenAI, infatti, si dimostra decisamente più ottimista riguardo al suo potenziale: il 72% ritiene che possa migliorare prodotti e servizi aziendali, il 68% vede un miglioramento nelle esperienze lavorative e il 62% crede che possa avere un impatto positivo sulla società. I margini di crescita, però, sono ancora ampi visto che un italiano su tre (32%, rispetto alla media europea del 29%) afferma di non conoscere alcun tool di GenAI. Questa percentuale scende drasticamente tra i giovani, soprattutto sotto i 25 anni (4%) e tra gli under 35 (15%), evidenziando un netto divario generazionale in termini di conoscenza. In più, tra coloro che hanno utilizzato una soluzione di GenAI, quasi la metà (47%) lo ha fatto esclusivamente per attività personali mentre uno su cinque lo ha fatto solo per attività lavorative.
Sono queste alcune delle evidenze principali che emergono dal report Deloitte con un focus dedicato anche all’Italia su modalità di utilizzo, settori di applicazione e alcuni motivi di preoccupazione che ancora riguardano cittadini e lavoratori.
“Nel lungo periodo – spiega Lorenzo Cerulli, GenAI Leader di Deloitte Central Mediterranean – le capacità della GenAI consentiranno di trasformare intere aree di business e apportare significativi miglioramenti nella vita dei cittadini, non solo dal punto di vista lavorativo. L’opportunità e la sfida principale, soprattutto per le imprese, è quella di comprendere e massimizzare il valore di questa tecnologia rivoluzionaria, governandola secondo gli obiettivi da raggiungere e mitigando i rischi che possono presentarsi. Una sfida che senza dubbio avrà importanti ricadute in futuro sull’intera società e a vincerla saranno coloro in grado di sfruttare il vantaggio competitivo generato dall’Intelligenza Artificiale”.
L’impatto percepito della GenAI e la fiducia nella regolamentazione
Chi ha utilizzato soluzioni di GenAI è più ottimista riguardo al suo impatto rispetto a chi non l’ha mai usata, sottolineando come il grado di apertura sia fortemente influenzato dalla dimestichezza con questa tecnologia. Il 72% degli utilizzatori ritiene che la GenAI possa migliorare prodotti e servizi aziendali, contro il 62% dei non-utilizzatori. Inoltre, il 68% crede che migliori l’esperienza lavorativa (rispetto al 52% dei non-utilizzatori), e il 62% vede benefici per la società (contro il 46%). Gli utilizzatori ritengono anche che la GenAI produca risultati affidabili (65%) e precisi (61%), rispetto ai non-utilizzatori (46% e 45%). Nel nostro Paese, inoltre, tra gli utilizzatori si rileva una significativa apertura rispetto alla media europea, per quanto riguarda la fiducia sia nelle capacità del Governo di regolare la GenAI (60% contro il 50% della media europea) sia nell’uso responsabile da parte delle imprese (62% vs. 51%).
I diversi scenari di fiducia nei risultati prodotti dalla GenAI
Per aumentare la fiducia nella GenAI, sia gli utilizzatori che i non-utilizzatori considerano cruciale proteggere dati personali (rispettivamente 66% e 67%), mantenere un controllo umano sui risultati (64% per entrambi), avere uno storico di risultati affidabili (61% vs. 62%) e comprendere come la GenAI arrivi alle sue conclusioni (56%). Gli italiani che usano la GenAI si fidano maggiormente dei risultati per attività private o di svago, percepite come meno rischiose, rispetto a quelle svolte da professionisti di determinati settori. Il 71% si fida della GenAI per generare riassunti a scopo personale, ma il grado di affidabilità crolla al 46% per gli articoli giornalistici. Il 66% la ritiene utile per semplificare le leggi esistenti, ma solo il 44% la userebbe per scrivere nuove normative. Solo il 52% si fiderebbe infine di enti governativi che usano la GenAI per determinare l’accesso al welfare.
Le principali preoccupazioni
La familiarità con la tecnologia influenza anche il grado di diffidenza e preoccupazione. I principali timori legati all’uso della GenAI risultano infatti maggiormente avvertiti dai non-utilizzatori rispetto a chi la utilizza più o meno abitualmente. Le tre preoccupazioni principali sono: l’uso e la diffusione dei “deepfake” (66% in generale, 71% tra i non-utilizzatori, 63% tra gli utilizzatori), la diffusione della disinformazione (63%, con 69% tra i non-utilizzatori e 61% tra gli utilizzatori) e l’uso illegale e la manipolazione dei dati personali (62%, con 68% tra i non-utilizzatori e 59% tra gli utilizzatori).
L’utilizzo della GenAI sul posto di lavoro
Gli intervistati si mostrano generalmente favorevoli all’uso della GenAI sul posto di lavoro. La maggior parte dei lavoratori che usano la GenAI (73%) è interessata a sviluppare competenze specifiche e il 68% si dichiara entusiasta delle opportunità che essa può creare per la carriera. Circa l’80% ritiene che la GenAI renderà il lavoro più facile e piacevole nei prossimi due anni, con livelli di soddisfazione particolarmente alti tra gli under 35 (che nell’85% dei casi prevedono una netta semplificazione del lavoro). Pensando infine ai tre principali benefici della GenAI sul lavoro, quelli maggiormente citati sono il miglioramento degli standard qualitativi (34%), il completamento più rapido delle attività (31%) e la generazione di idee nuove (31%).
