Thales ha raccolto la sfida lanciata dall’Agenzia francese per l’Innovazione della Difesa: individuare le immagini false create dalle attuali piattaforme di intelligenza artificiale. L’acceleratore di I.A. di Thales (CortAIx) ha così sviluppato un metamodello in grado di rilevare i deepfake generati dall’AI.
Il metamodello di Thales si basa su un’aggregazione di modelli, ognuno dei quali assegna un punteggio di autenticità a un’immagine per determinare se sia reale o falsa.
Lotta alla disinformazione e alle frodi
L’intelligenza artificiale è il tema centrale della European Cyber Week di quest’anno, che si terrà dal 19 al 21 novembre a Rennes, in Bretagna. In concomitanza a questo evento l’Aid francese ha lanciato una sfida a cui Thales ha risposto sviluppando un metamodello per il rilevamento di immagini false generate dall’intelligenza artificiale. Con l’aumento dell’uso delle tecnologie di intelligenza artificiale, in un momento in cui la disinformazione sta diventando sempre più diffusa e ha un impatto su ogni settore dell’economia, il metamodello di rilevamento dei deepfake offre un modo per combattere la manipolazione delle immagini in molteplici casi, come la lotta contro le frodi di identità.
Le immagini generate dall’intelligenza artificiale vengono create utilizzando piattaforme come Midjourney, Dall-E e Firefly. Alcuni studi hanno previsto che nel giro di pochi anni l’uso di deepfake per furti di identità e frodi potrebbe causare enormi perdite finanziarie. Gartner ha stimato che circa il 20% degli attacchi informatici nel 2023 ha probabilmente incluso contenuti deepfake nell’ambito di campagne di disinformazione e manipolazione.
Una combinazione di più modelli
“Il metamodello di rilevamento dei deepfake di Thales affronta il problema delle frodi di identità e delle tecniche di morphing”, afferma Christophe Meyer, Senior Expert in AI e Cto di cortAIx, l’acceleratore AI di Thales. L’aggregazione di più metodi che utilizza reti neurali, rilevamento del rumore e analisi della frequenza spaziale ci aiuta a proteggere meglio il crescente numero di soluzioni che richiedono controlli biometrici dell’identità. Si tratta di un notevole progresso tecnologico e di una testimonianza dell’esperienza dei ricercatori di intelligenza artificiale di Thales”.
Il metamodello di Thales utilizza tecniche di apprendimento automatico, alberi decisionali e valutazioni dei punti di forza e di debolezza di ciascun modello per analizzare l’autenticità di un’immagine. Combina vari modelli, tra cui: il metodo Clip (Contrastive Language-Image Pre-training), che prevede il collegamento di immagine e testo attraverso l’apprendimento di rappresentazioni comuni (per rilevare i deepfake, analizza le immagini e le confronta con le loro descrizioni testuali per identificare incongruenze e artefatti visivi); il metodo Dnf (Diffusion Noise Feature), che utilizza le attuali architetture di generazione di immagini (chiamate modelli di diffusione) per rilevare i deepfake (i modelli di diffusione si basano su una stima della quantità di rumore da aggiungere a un’immagine per causare una “allucinazione”, che crea contenuti dal nulla, e questa stima può essere utilizzata a sua volta per rilevare se un’immagine è stata generata dall’intelligenza artificiale); il metodo Dct (Discrete Cosine Transform), che analizza le frequenze spaziali di un’immagine per individuare artefatti nascosti (trasformando un’immagine dal dominio spaziale (pixel) al dominio della frequenza, è in grado di rilevare sottili anomalie nella struttura dell’immagine, che si verificano quando vengono generati deepfake e sono spesso invisibili a occhio nudo).
L’acceleratore AI di Thales dietro al progetto
Il gruppo di lavoro di Thales che c’è dietro questa invenzione fa parte di cortAIx, l’acceleratore di intelligenza artificiale del Gruppo, che conta oltre 600 ricercatori e ingegneri,150 dei quali hanno sede presso il cluster di ricerca e tecnologia Saclay a sud di Parigi e lavorano su sistemi mission-critical.
