I deepfake minacciano la democrazia senza che ce ne accorgiamo

I deepfake minacciano la democrazia senza che ce ne accorgiamo

Prima di tutto bisogna immaginare la digitalizzazione come un fenomeno sociale radicato in ogni aspetto della vita che viviamo. Questo è il presupposto per affacciarsi sul mondo dell’informazione nel XXI secolo. Informarsi è ormai diventato facile e difficile allo stesso tempo. Un binomio che sembra contraddicente ma che in realtà è perfettamente coerente.

Se difatti da una parte è ormai diventato scontato poter raggiungere e approfondire ogni tipo di notizia ricercandola nel web, dall’altra è diventato difficile accertarsi della veridicità della notizia stessa.

La Relazione annuale dell’Intelligence pubblicata un paio di settimane fa, parlava non a caso di “un’impennata di campagne disinformative e fake news nell’anno del covid. Non è un caso. La velocità di ricezione dell’informazione che riceviamo coincide con la scarsa attenzione che poniamo a quello che leggiamo. Non c’è pensiero critico al momento della lettura di un articolo, e così è stato facile diffondere fake news in un periodo di caos come l’ultimo anno.

Ma se è facile gioire per i continui sviluppi della frontiera tecnologica, bisognerebbe altresì stare attenti a non affogare nel mare virtuale in cui navighiamo. Uno dei rischi più grandi per l’informazione, intesa nel senso più ampio e generale, è costituito dai “deepfake”. Quello che Forbes definisce come una minaccia che “può distruggere la nostra società. Non siamo pronti“, è argomento trattato troppo poco.

Quindi: cosè un deepfake?

Donald Trump nei panni di Saul Goodman, protagonista della serie tv “Better Call Saul”

Origini del deepfake

Il deepfake è stato tradotto in italiano da Massimo Gramellini con l’espressione “profondo falso”, ma è una di quelle espressioni inglesi di difficile traduzione e adattabilità linguistica.
“Deepfake” è un neologismo nato per la prima volta nel 2017 su Reddit, un social network di intrattenimento poco conosciuto in Italia ma molto sviluppato negli Usa. Con questo termine ci si riferisce ad una “tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, usata per combinare e sovrapporre immagini e video esistenti con video o immagini originali“, come riporta Wikipedia. In pratica, vengono manipolate immagini, video e audio esistenti e da lì si creano prodotti totalmente inventati. Una sorta di “fotomontaggio” solo che applicato ai video, con una precisione che a malapena rende possibile la distinzione tra originale e falso.

Per avere un’idea più chiara ed esplicativa, basta vedere il video qui sotto di esempi pratici di deepfake.

Top 10 Deepfake Videos – YouTube

L’idea dei deepfake è nata probabilmente con intenti genuini e di puro intrattenimento. All’inizio difatti si riscontravano maggiormente video buffi riguardanti attori in ruoli improbabili. Ma come prevedibile, in poco tempo è tutto degenerato.
Nel 2018 infatti sono esplosi, sempre su Reddit, contenuti di deepfake pornografici, ritraenti attrici come Gal Gadot e Scarlett Johansson, che successivamente ha definito il mondo dei deepfake come “un vasto tunnel spaziale di tenebre che si mangia da solo”. I video ritraggono quindi prestazioni sessuali fittizie delle due attrici, i cui volti sono stati applicati e “sovrapposti” a quelli di pornostar celebri. A settembre 2019, il 96% dei deefake era applicato ai video porno.

deepfake
Un deepfake di Barack Obama.

Processo irreversibile

Chiaramente l’utilizzo dei deepfake non si ferma qui. Se a inizio 2019 si contavano 7.964 video online, 9 mesi dopo sono più che raddoppiati, arrivando sino a 14.678.
In sociologia c’è un fenomeno chiamato “ritardo culturale” che si adatta perfettamente all’argomento trattato. Con ritardo culturale si intende lo sviluppo dei mezzi a disposizione dell’uomo che è più veloce dello sviluppo del pensiero umano. Se l’uomo perciò rimane uguale, o comunque si sviluppa con lentezza, gli strumenti si sviluppano a velocità nettamente maggiore.

E questo porta a una perdita del controllo. Gli oggetti, e quindi il mondo materiale e inanimato, prendono il sopravvento sull’uomo. È lo stesso concetto espresso nel documentario Netflix “The Social Dilemma”: ormai la tecnologia è un enorme cervello e noi siamo poco meno che un neurone al suo interno. Le macchine che sono alla base del cervello sono talmente potenti e fagocitano così tanti dati che sono ormai dominanti sull’uomo come individualità.

Così la salute della democrazia viene messa a rischio. Perché oltre a video di attori e falsi video porno, ci sono anche video ritraenti personalità politiche che dicono cose che non hanno mai detto.
Forse può risultare divertente osservare Donald Trump all’interno della serie “Better Call Saul” ma meno vedere Obama e Zuckenberg fare discorsi importanti pronunciando con la loro stessa voce parole che non hanno mai detto.
Quella tecnologica è la terza rivoluzione industriale. E come le precedenti due è un processo irreversibile.

deepfake
I 3 deepfake di Tom Cruise. A una prima occhiata indistinguibile dal reale attore americano.

Rischio democrazia

Da questi esempi risulta chiaro come l’intera ossatura della democrazia possa essere a rischio. La potenza della condivisione di un video falso è pressoché infinita e nettamente superiore a un’eventuale smentita.
Il senatore americano Marco Rubio, ha detto: “Un tempo servivano 10 aerei da guerra, un’arma nucleare e missili a lunga gittata per impaurire gli Stati Uniti. Oggi basta l’abilità di creare un video falso realizzato in modo realistico per falsare le elezioni. Questo potrebbe aprire una crisi interna e indebolirci”.

La diffusione dei deepfake può minare un contesto sociale già fortemente instabile. Ora che chiunque con il pc ha tra le mani un potere potenzialmente illimitato, i rischi che la democrazia collassi aumentano di molto.
Nell’ultima settimana tre video falsi di Tom Cruise, per fortuna innocui, hanno accumulato 11,5 milioni di visualizzazioni. Tra tutti questi, molti saranno convinti della veridicità del video. Quando Tom Cruise sarà sostituito, per esempio, da Kim Jong-un che dichiara guerra agli Usa, quali possono essere le conseguenze?

Con la velocità dell’informazione come requisito principale dei social, in quanti si accorgeranno della falsità di quel video? Pochi. E basterà una successiva smentita a convincere tutte quelle persone che il video che avevano visto era falso? No.
In questo terreno di incertezze, c’è fertilità per i complottisti. Il vero e il falso ridurranno il confine che li separa sino a mescolarsi l’uno all’interno dell’altro. Ogni video, dichiarazione ed evento potrà essere contraddetto.

Non esiste antidoto che possa arrestare il processo di diffusione delle fake news in ogni forma e declinazione. Ma ciò che può fare ognuno è prestare più attenzione a ciò che ci circonda nella realtà e nel web. Avere consapevolezza dei rischi, risalire alle fonti delle informazioni, adottare una visione critica, sono tutte armi individuali che possono aiutare la collettività.
Cosicché il tunnel di tenebre che si mangia da solo, non mangi anche noi.

Pubblicato da Federico Roberti

Da sempre guardo il mondo con gli occhi di chi ne è avidamente curioso. Da sempre provo a trasformare la mia curiosità in parole e in articoli. Da poco, pochissimo, sono il direttore di Zeta. Cosa vuol dire questo? Solo che mi guarderò di più intorno e le mie parole avranno un peso maggiore.

Commenti