Attenzione ai deepfake

Sembra vero ma non è: il deepfake

Immagina: è come se tu fossi in videochiamata con i tuoi familiari – i tuoi genitori, i tuoi figli, i tuoi nonni – o con i tuoi amici, solo che quello che loro vedono non sei realmente tu, ma una tua fedelissima riproduzione che appare esattamente come te e parla in tutto e per tutto come te, tanto che la tua famiglia e i tuoi amici non hanno alcun dubbio che sei tu.

Solo che questa riproduzione inizia a dire cose improbabili: tali cose possono essere imbarazzanti, compromettenti, ma possono essere anche pericolose.

Quell’immagine che sembri tu ma non sei tu li invita per esempio a fare investimenti strani o a rivolgersi a strani personaggi o entità per ottenere un prestito di credito al consumo. I tuoi familiari e amici si fidano di te e magari finisce che ti danno retta. O meglio: finisce che danno retta a quell’immagine che sembri tu ma non sei tu.

Ora, figurati cosa può succedere a un numero indefinito di persone se quell’immagine riproduce una personalità pubblica, autorevole, che invita loro a fare cose - investimenti, finanziamenti o altro - non proprio ideali per sé e per il proprio portafoglio.

Ecco perché Bankitalia, attraverso il suo sito web, ha ritenuto di dover mettere tutti in guardia da questi contenuti “generati anche attraverso l’applicazione di tecniche che fanno uso dell’intelligenza artificiale, conosciute come deepfake, per modificare video o audio reali al fine di veicolare e rendere maggiormente credibili messaggi non veritieri e presumibilmente finalizzati alla truffa”.

Che cos’è un deepfake?

Come spiega il precedente documento “Rolling in the deep(fakes)”, di cui abbiamo già parlato in un nostro articolo, i progressi tecnologici dell’intelligenza artificiale stanno tra le altre cose migliorando la generazione di contenuti falsissimi che però sembrano verissimi, rendendo difficile distinguere la finzione dalla verità.

A differenza dei cosiddetti “cheapfake” - ritocchini grafici qua e là effettuati con programmi specifici o tracce audio tagliate e rimontate, tutte cose che in ogni caso possono avere conseguenze spiacevoli - i deepfake sono prodotti appunto con strumenti basati sull’intelligenza artificiale e permettono ai malintenzionati di diffondere disinformazione digitale che difficilmente si può distinguere dalla realtà.

I messaggi che prendono di mira i singoli consumatori sono detti “narrowcast”, mentre quelli che rischiano di minare la fiducia nelle istituzioni, politiche e finanziarie, sono i cosiddetti “broadcast”.

L’avvertimento della Banca d’Italia

“Nessuno di questi video, anche nei casi in cui sono presenti espliciti riferimenti all’Istituto, è stato autorizzato dalla Banca d’Italia”, ha avvertito l’autorità di Via Nazionale.

Quindi, se ti capita di visualizzare tali contenuti, abbi cura di:

• diffidare del messaggio divulgato;
• non dare seguito alle eventuali richieste avanzate;
• evitare di condividerlo per non contribuire a incrementare la sua diffusione.

Le comunicazioni ufficiali di Bankitalia appaiono sul sito e sui canali social istituzionali su YouTube, su X (Banca d’Italia e relativo ufficio stampa) e infine su LinkedIn.