Responsabili scientifici
Marco Romano, UNINT
Area
Politologica
Partecipanti
Marco Romano, UNINT Domenico Daniele Bloisi, UNINT Ciro Sbailò, UNINT Vanni Nicolì, UNINT
Anno di inizio
2023
Durata
Annuale
Abstract
Il progetto REVEAL si propone di analizzare le implicazioni socio-politiche dell’utilizzo della generative AI (genAI) nei deep fake, al fine di valutarne l’impatto sulla società e sul dominio politico. In linea con l’obiettivo strategico di ricerca di facoltà di analisi dei quadranti geopolitici e dei conflitti socio-culturali di maggiore interesse nazionale, il progetto si concentra sulla sfera pubblica e sulle dinamiche politiche.
Questi sistemi di intelligenza artificiale sono in grado di creare contenuti multimediali, come audio e video, che sono indistinguibili dalla produzione umana. Sebbene la genAI abbia diverse applicazioni promettenti, come la creazione di contenuti audio-visivi, solleva preoccupazioni significative legate ai “deep-fake”, cioè contenuti falsi che sembrano estremamente realistici.
Una delle tecniche di genAI al momento più utilizzata per la creazione di deep fake è I’uso di reti generative avversarie (GAN). I deep-fake creati dalle GAN rappresentano una minaccia politica immediata, poiché possono essere utilizzati per diffondere fake news e disinformazione. Questa situazione può mettere a repentaglio la governance democratica se non si provvederà a mettere in atto delle regolamentazioni che migliorino la responsabilità, la trasparenza e l’affidabilità dei prodotti genAI. Ad esempio, le GAN possono generare video di politici che apparentemente pianificano operazioni segrete o compiono azioni controverse. Questi contenuti possono influenzare l’opinione pubblica e minare la fiducia nelle informazioni visive, creando un ambiente di post-verità. L’obiettivo di REVEAL è comprendere le implicazioni, non solo tecnologiche, ma anche socio-politiche delle GAN. Si prevede un’ampia diffusione dei deep-fake nei prossimi anni, con possibili impatti gravi sulla democrazia. Le GAN sono difficili da individuare automaticamente, il che potrebbe portare a una proliferazione di deep-fake indistinguibili dalla realtà.
Inoltre, la genAI potrebbe essere utilizzata per negare azioni realmente compiute, affermando che si tratti di deep-fake, innescando ulteriori sfide per la veridicità delle informazioni.
REVEAL mira a fronteggiare queste sfide analizzando i rischi politici legati alle GAN e cercando di prevenire implicazioni negative per le democrazie occidentali. Allo stesso tempo, esplora le opportunità offerte dalla genAI per migliorare la partecipazione democratica, come la creazione di contenuti legati alla cittadinanza attiva e alla citizen-science. In questo modo, il progetto cerca di bilanciare le minacce e le opportunità che la genAI presenta per la società e la democrazia.