Qu’est-ce qu’un deepfake ? Tout ce que tu as besoin de savoir

• Les deepfakes utilisent l'intelligence artificielle d'apprentissage en profondeur pour remplacer la ressemblance d'une personne par une autre dans la vidéo et d'autres médias numériques. 
• On craint que la technologie deepfake ne soit utilisée pour créer de fausses nouvelles et des vidéos trompeuses et contrefaites.
• Voici une introduction aux deepfakes – de quoi s'agit-il, comment cela fonctionne-t-il et comment il peut être détecté.

Les ordinateurs sont de plus en plus performants pour simuler la réalité. Le cinéma moderne, par exemple, s'appuie fortement sur des décors, des décors et des personnages générés par ordinateur à la place des lieux et des accessoires pratiques qui étaient autrefois courants, et la plupart du temps, ces scènes sont en grande partie impossibles à distinguer de la réalité. 

Récemment, la technologie deepfake a fait la une des journaux. Dernière version de l'imagerie informatique, les deepfakes sont créés lorsque l'intelligence artificielle (IA) est programmée pour remplacer la ressemblance d'une personne par une autre dans une vidéo enregistrée.

Qu'est-ce qu'un deepfake et comment ça marche ?

Le terme "deepfake" vient de la technologie sous-jacente "deep learning", qui est une forme d'IA. Les algorithmes d'apprentissage en profondeur, qui apprennent eux-mêmes à résoudre des problèmes lorsqu'ils reçoivent de grands ensembles de données, sont utilisés pour échanger des visages dans le contenu vidéo et numérique afin de créer de faux médias réalistes. 

Il existe plusieurs méthodes pour créer des deepfakes, mais la plus courante repose sur l'utilisation de réseaux de neurones profonds impliquant des auto-encodeurs qui utilisent une technique d'échange de visage. Vous avez d'abord besoin d'une vidéo cible à utiliser comme base du deepfake, puis d'une collection de clips vidéo de la personne que vous souhaitez insérer dans la cible. 

Les vidéos peuvent être totalement indépendantes ; la cible peut être un clip d'un film hollywoodien, par exemple, et les vidéos de la personne que vous souhaitez insérer dans le film peuvent être des clips aléatoires téléchargés depuis YouTube. 

L'auto-encodeur est un programme d'IA d'apprentissage en profondeur chargé d'étudier les clips vidéo pour comprendre à quoi ressemble la personne sous divers angles et conditions environnementales, puis de cartographier cette personne sur l'individu dans la vidéo cible en trouvant des caractéristiques communes. 

Un autre type d'apprentissage automatique est ajouté au mélange, connu sous le nom de réseaux antagonistes génératifs (GAN), qui détecte et améliore toutes les failles du deepfake en plusieurs tours, ce qui rend plus difficile pour les détecteurs de deepfake de les décoder. 

Les GAN sont également utilisés comme méthode populaire pour la création de deepfakes, s'appuyant sur l'étude de grandes quantités de données pour "apprendre" comment développer de nouveaux exemples qui imitent la réalité, avec des résultats douloureusement précis. 

Plusieurs applications et logiciels facilitent la génération de deepfakes même pour les débutants, tels que l'application chinoise Zao, DeepFace Lab, FaceApp (qui est une application de retouche photo avec des techniques d'IA intégrées), Face Swap et le DeepNude depuis supprimé, un particulièrement dangereux application qui a généré de fausses images nues de femmes. 

Une grande quantité de logiciels deepfake peuvent être trouvés sur GitHub, une communauté open source de développement de logiciels. Certaines de ces applications sont utilisées à des fins de divertissement pur – c'est pourquoi la création de deepfake n'est pas interdite – tandis que d'autres sont beaucoup plus susceptibles d'être utilisées à des fins malveillantes. 

De nombreux experts pensent qu'à l'avenir, les deepfakes deviendront beaucoup plus sophistiqués à mesure que la technologie se développera et pourraient introduire des menaces plus graves pour le public, liées à l'ingérence électorale, aux tensions politiques et à des activités criminelles supplémentaires.

Comment les deepfakes sont-ils utilisés ?

Bien que la possibilité d'échanger automatiquement des visages pour créer une vidéo synthétique crédible et réaliste ait des applications bénignes intéressantes (comme dans le cinéma et les jeux), il s'agit évidemment d'une technologie dangereuse avec des applications troublantes. L'une des premières applications réelles des deepfakes était, en fait, de créer de la pornographie synthétique.

En 2017, un utilisateur de reddit nommé "deepfakes" a créé un forum pour le porno qui présentait des acteurs à visage échangé. Depuis lors, la pornographie (en particulier la pornographie de vengeance) a fait l'actualité à plusieurs reprises, portant gravement atteinte à la réputation des célébrités et des personnalités en vue. Selon un rapport Deeptrace, la pornographie représentait 96% des vidéos deepfake trouvées en ligne en 2019.

La vidéo Deepfake a également été utilisée en politique. En 2018, par exemple, un parti politique belge a diffusé une vidéo de Donald Trump prononçant un discours appelant la Belgique à se retirer de l'accord de Paris sur le climat. Trump n'a cependant jamais prononcé ce discours – c'était un deepfake. Ce n'était pas la première utilisation d'un deepfake pour créer des vidéos trompeuses, et des experts politiques férus de technologie se préparent à une future vague de fausses nouvelles qui présentent des deepfakes d'un réalisme convaincant.

Bien sûr, toutes les vidéos deepfake ne constituent pas une menace existentielle pour la démocratie. Les deepfakes utilisés pour l'humour et la satire ne manquent pas, comme les puces qui répondent à des questions comme à quoi ressemblerait Nicolas Cage s'il apparaissait dans "Les aventuriers de l'arche perdue" ?

Les deepfakes sont-ils uniquement des vidéos ?

Les deepfakes ne se limitent pas aux seules vidéos. L'audio Deepfake est un domaine en pleine croissance qui a un nombre énorme d'applications. 

Des deepfakes audio réalistes peuvent désormais être créés à l'aide d'algorithmes d'apprentissage en profondeur avec seulement quelques heures (ou dans certains cas, quelques minutes) d'audio de la personne dont la voix est clonée, et une fois qu'un modèle de voix est créé, cette personne peut être créée. pour dire n'importe quoi, comme lorsque de faux enregistrements audio d'un PDG ont été utilisés pour commettre une fraude l'année dernière.

Deepfake audio a des applications médicales sous la forme de remplacement de la voix, ainsi que dans la conception de jeux informatiques – désormais, les programmeurs peuvent autoriser les personnages du jeu à dire n'importe quoi en temps réel plutôt que de s'appuyer sur un ensemble limité de scripts qui ont été enregistrés avant le jeu. publié. 

Comment détecter un deepfake

À mesure que les deepfakes deviennent plus courants, la société devra très probablement s'adapter collectivement pour repérer les vidéos deepfake de la même manière que les utilisateurs en ligne sont désormais habitués à détecter d'autres types de fausses nouvelles. 

Souvent, comme c'est le cas avec la cybersécurité, une technologie plus profonde doit émerger afin de la détecter et d'empêcher sa propagation, ce qui peut à son tour déclencher un cercle vicieux et potentiellement créer plus de dommages. 

Il existe une poignée d'indicateurs qui révèlent des deepfakes :

• Les deepfakes actuels ont du mal à animer les visages de manière réaliste, et le résultat est une vidéo dans laquelle le sujet ne clignote jamais, ou clignote beaucoup trop souvent ou de manière anormale. Cependant, après que des chercheurs de l'Université d'Albany ont publié une étude détectant l'anomalie de clignotement, de nouveaux deepfakes ont été publiés qui n'avaient plus ce problème.
• Recherchez des problèmes de peau ou de cheveux, ou des visages qui semblent plus flous que l'environnement dans lequel ils se trouvent. La mise au point peut sembler anormalement douce. 
• L'éclairage n'a pas l'air naturel ? Souvent, les algorithmes deepfake conserveront l'éclairage des clips qui ont été utilisés comme modèles pour la fausse vidéo, ce qui correspond mal à l'éclairage de la vidéo cible. 
• L'audio peut ne pas sembler correspondre à la personne, surtout si la vidéo a été truquée, mais l'audio d'origine n'a pas été manipulé avec autant de soin. 

Combattre les deepfakes grâce à la technologie

Bien que les deepfakes ne deviennent plus réalistes qu'avec le temps, à mesure que les techniques s'améliorent, nous ne sommes pas entièrement sans défense lorsqu'il s'agit de les combattre. Un certain nombre d'entreprises développent des méthodes pour repérer les deepfakes, dont plusieurs sont des startups. 

Sensity, par exemple, a développé une plate-forme de détection qui s'apparente à un antivirus pour les deepfakes qui alerte les utilisateurs par e-mail lorsqu'ils regardent quelque chose qui porte des empreintes digitales révélatrices de médias synthétiques générés par l'IA. Sensity utilise les mêmes processus d'apprentissage en profondeur que ceux utilisés pour créer de fausses vidéos.

L'opération Minerva adopte une approche plus simple pour détecter les deepfakes. L'algorithme de cette société compare les deepfakes potentiels à des vidéos connues qui ont déjà été "empreintes digitales". Par exemple, il peut détecter des exemples de revenge porn en reconnaissant que la vidéo deepfake est simplement une version modifiée d'une vidéo existante que Operation Minerva a déjà cataloguée.

Et l'année dernière, Facebook a organisé le Deepfake Detection Challenge, une initiative ouverte et collaborative visant à encourager la création de nouvelles technologies pour détecter les deepfakes et autres types de médias manipulés. Le concours comportait des prix allant jusqu'à 500 000 $.