Cos’è un deepfake? Tutto quello che devi sapere

• I deepfake utilizzano l'intelligenza artificiale del deep learning per sostituire la somiglianza di una persona con un'altra nei video e in altri media digitali. 
• Si teme che la tecnologia deepfake possa essere utilizzata per creare notizie false e video fuorvianti e contraffatti.
• Ecco un primer sui deepfake: cos'è, come funziona e come può essere rilevato.

I computer sono diventati sempre più bravi a simulare la realtà. Il cinema moderno, ad esempio, fa molto affidamento su set, scenari e personaggi generati dal computer al posto dei luoghi pratici e degli oggetti di scena che un tempo erano comuni, e la maggior parte delle volte queste scene sono in gran parte indistinguibili dalla realtà. 

Di recente, la tecnologia deepfake ha fatto notizia. L'ultima iterazione nelle immagini dei computer, i deepfake vengono creati quando l'intelligenza artificiale (AI) è programmata per sostituire la somiglianza di una persona con un'altra nel video registrato.

Cos'è un deepfake e come funziona?

Il termine "deepfake" deriva dalla tecnologia sottostante "deep learning", che è una forma di intelligenza artificiale. Gli algoritmi di deep learning, che insegnano da soli a risolvere i problemi quando vengono forniti grandi set di dati, vengono utilizzati per scambiare facce nei video e nei contenuti digitali per creare falsi media dall'aspetto realistico. 

Esistono diversi metodi per creare deepfake, ma il più comune si basa sull'uso di reti neurali profonde che coinvolgono autoencoder che utilizzano una tecnica di scambio di volti. È necessario prima un video di destinazione da utilizzare come base del deepfake e quindi una raccolta di clip video della persona che si desidera inserire nel target. 

I video possono essere completamente estranei; l'obiettivo potrebbe essere una clip di un film di Hollywood, ad esempio, e i video della persona che desideri inserire nel film potrebbero essere clip casuali scaricate da YouTube. 

L'autoencoder è un programma di intelligenza artificiale di deep learning incaricato di studiare i video clip per capire che aspetto ha la persona da una varietà di angolazioni e condizioni ambientali, quindi mappare quella persona sull'individuo nel video di destinazione trovando le caratteristiche comuni. 

Al mix viene aggiunto un altro tipo di apprendimento automatico, noto come Generative Adversarial Networks (GAN), che rileva e migliora eventuali difetti nel deepfake in più round, rendendo più difficile la decodifica dei rilevatori di deepfake. 

I GAN sono anche usati come metodo popolare per la creazione di deepfake, basandosi sullo studio di grandi quantità di dati per "imparare" come sviluppare nuovi esempi che imitano la realtà, con risultati dolorosamente accurati. 

Diverse app e software rendono facile la generazione di deepfake anche per i principianti, come l'app cinese Zao, DeepFace Lab, FaceApp (che è un'app di fotoritocco con tecniche di intelligenza artificiale integrate), Face Swap e DeepNude da allora rimosso, particolarmente pericoloso app che ha generato false immagini di nudo di donne. 

Una grande quantità di software deepfake può essere trovata su GitHub, una comunità open source di sviluppo software. Alcune di queste app vengono utilizzate per scopi di puro intrattenimento, motivo per cui la creazione di deepfake non è vietata, mentre è molto più probabile che altre vengano utilizzate in modo dannoso. 

Molti esperti ritengono che, in futuro, i deepfake diventeranno molto più sofisticati con l'ulteriore sviluppo della tecnologia e potrebbero introdurre minacce più gravi per il pubblico, relative a interferenze elettorali, tensioni politiche e ulteriori attività criminali.

Come vengono utilizzati i deepfake?

Sebbene la possibilità di scambiare automaticamente i volti per creare video sintetici dall'aspetto credibile e realistico abbia alcune interessanti applicazioni benigne (come nel cinema e nei giochi), questa è ovviamente una tecnologia pericolosa con alcune applicazioni problematiche. Una delle prime applicazioni nel mondo reale per i deepfake è stata, infatti, la creazione di materiale pornografico sintetico.

Nel 2017, un utente reddit chiamato "deepfakes" ha creato un forum per il porno con attori che si scambiavano i volti. Da quel momento, il porno (in particolare il revenge porn) ha fatto più volte notizia, danneggiando gravemente la reputazione di celebrità e personaggi di spicco. Secondo un rapporto di Deeptrace, la pornografia rappresentava il 96% dei video deepfake trovati online nel 2019.

Il video deepfake è stato utilizzato anche in politica. Nel 2018, ad esempio, un partito politico belga ha pubblicato un video di Donald Trump che pronunciava un discorso in cui invitava il Belgio a ritirarsi dall'accordo di Parigi sul clima. Trump non ha mai pronunciato quel discorso, tuttavia: era un deepfake. Non è stato il primo utilizzo di un deepfake per creare video fuorvianti e gli esperti politici esperti di tecnologia si stanno preparando per una futura ondata di notizie false che presentano deepfake convincenti e realistici.

Naturalmente, non tutti i video deepfake rappresentano una minaccia esistenziale per la democrazia. Non mancano i deepfake usati per l'umorismo e la satira, come i chip che rispondono a domande come come sarebbe Nicolas Cage se apparisse in "I predatori dell'arca perduta"?

I deepfake sono solo video?

I deepfake non si limitano ai soli video. L'audio deepfake è un campo in rapida crescita che ha un numero enorme di applicazioni. 

Ora è possibile creare deepfake audio realistici utilizzando algoritmi di apprendimento profondo con solo poche ore (o in alcuni casi, minuti) di audio della persona la cui voce viene clonata e, una volta creato un modello di voce, quella persona può essere creata per dire qualcosa, come quando l'audio falso di un CEO è stato utilizzato per commettere una frode l'anno scorso.

L'audio deepfake ha applicazioni mediche sotto forma di sostituzione vocale, oltre che nella progettazione di giochi per computer: ora i programmatori possono consentire ai personaggi del gioco di dire qualsiasi cosa in tempo reale anziché fare affidamento su un insieme limitato di script registrati prima che il gioco fosse pubblicato. 

Come rilevare un deepfake

Man mano che i deepfake diventano più comuni, la società collettivamente dovrà probabilmente adattarsi per individuare i video deepfake nello stesso modo in cui gli utenti online sono ora in sintonia con il rilevamento di altri tipi di notizie false. 

Spesso, come nel caso della sicurezza informatica, è necessario che emerga una tecnologia più deepfake per rilevarne e impedirne la diffusione, il che a sua volta può innescare un circolo vizioso e potenzialmente creare più danni. 

Ci sono una manciata di indicatori che danno via i deepfake:

• Gli attuali deepfake hanno difficoltà ad animare realisticamente i volti e il risultato è un video in cui il soggetto non sbatte mai le palpebre, o sbatte le palpebre troppo spesso o in modo innaturale. Tuttavia, dopo che i ricercatori dell'Università di Albany hanno pubblicato uno studio che rileva l'anomalia lampeggiante, sono stati rilasciati nuovi deepfake che non presentavano più questo problema.
• Cerca problemi con la pelle o i capelli, o facce che sembrano essere più sfocate rispetto all'ambiente in cui sono posizionate. La messa a fuoco potrebbe sembrare innaturalmente morbida. 
• L'illuminazione sembra innaturale? Spesso, gli algoritmi deepfake manterranno l'illuminazione delle clip che sono state utilizzate come modelli per il video falso, che è una scarsa corrispondenza per l'illuminazione nel video di destinazione. 
• L'audio potrebbe non corrispondere alla persona, soprattutto se il video è stato falsificato ma l'audio originale non è stato manipolato con la stessa attenzione. 

Combattere i deepfake con la tecnologia

Mentre i deepfake diventeranno più realistici con il tempo man mano che le tecniche migliorano, non siamo del tutto indifesi quando si tratta di combatterli. Diverse aziende stanno sviluppando metodi per individuare i deepfake, molti dei quali sono startup. 

Sensity, ad esempio, ha sviluppato una piattaforma di rilevamento simile a un antivirus per deepfake che avvisa gli utenti via e-mail quando stanno guardando qualcosa che contiene impronte rivelatrici di supporti sintetici generati dall'intelligenza artificiale. Sensity utilizza gli stessi processi di deep learning utilizzati per creare video falsi.

L'operazione Minerva adotta un approccio più diretto per rilevare i deepfake. L'algoritmo di questa azienda confronta potenziali deepfake con video noti che sono già stati "improntati digitalmente". Ad esempio, può rilevare esempi di revenge porn riconoscendo che il video deepfake è semplicemente una versione modificata di un video esistente che l'Operazione Minerva ha già catalogato.

E l'anno scorso, Facebook ha ospitato la Deepfake Detection Challenge, un'iniziativa aperta e collaborativa per incoraggiare la creazione di nuove tecnologie per rilevare i deepfake e altri tipi di media manipolati. Il concorso prevedeva premi fino a $ 500.000.